Power and Progress - Daron Acemoglu;Simon Johnson;

снизить заработную плату. Но это не сильно повышает производительность: работники не становятся лучше в своей работе, потому что им платят меньше, и на самом деле могут потерять мотивацию и стать менее продуктивными. С помощью гибкого графика компании могут немного увеличить свои доходы, имея больше сотрудников, когда спрос высок, и меньше, когда магазин менее загружен. В обоих случаях нагрузка на работников более существенна, чем преимущества в производительности. По словам британского работника, работающего по контракту с нулевым рабочим днем, "здесь нет карьерного роста.... [я] проработал на этой работе шесть с половиной лет. С тех пор роль не менялась, никакого продвижения. У меня вообще нет перспектив продвижения по службе. Я спросила, могу ли я пойти на курсы, на что получила абсолютный отказ". Независимо от затрат на работников и небольшого, эфемерного повышения производительности, компании, стремящиеся сократить расходы и усилить контроль над работниками, продолжают требовать технологий ИИ, а в ответ исследователи, повинующиеся иллюзиям ИИ, поставляют их.

Но есть ли другой путь, кроме использования цифровых технологий на службе непрерывной автоматизации и контроля за работниками? Ответ - да. Когда цифровые технологии направлены на помощь и дополнение человека, результаты могут быть, и уже были, намного лучше.

 

Непройденный путь

При интерпретации как недавней, так и далекой истории часто встречается детерминистское заблуждение: то, что произошло, должно было произойти. Зачастую это не совсем верно. Существует множество возможных путей, по которым могла бы развиваться история. То же самое верно и для технологии. Нынешний подход, который доминирует в третьей волне ИИ, основанной на массовом сборе данных и непрерывной автоматизации, — это выбор. На самом деле это дорогостоящий выбор, и не только потому, что он следует предвзятому отношению элиты к автоматизации и слежке и наносит ущерб экономическому существованию работников. Он также отвлекает энергию и исследования от других, социально более полезных направлений развития цифровых технологий общего назначения. Далее мы увидим, что парадигмы, отдающие приоритет полезности машин, добились замечательных успехов в прошлом, когда их пытались применить, и предлагают много плодотворных возможностей в будущем.

Еще до конференции в Дартмуте эрудит из Массачусетского технологического института Норберт Винер сформулировал другое видение, в котором машины позиционировались как дополнение к человеку. Хотя Винер не использовал этот термин, MU (полезность машин) вдохновлен его идеями. Мы хотим от машин не какого-то аморфного понятия интеллекта или "высокоуровневых возможностей", а их использования для достижения целей человека. Сосредоточение внимания на MU, а не на ИИ, скорее всего, поможет нам достичь этой цели.

Винер определил три критические проблемы, которые мешали мечтам об автономном машинном интеллекте со времен Тьюринга. Во-первых, превзойти и заменить человека сложно, потому что машины всегда несовершенны в имитации живых организмов. Как сказал Винер в несколько ином контексте: "Лучшая материальная модель для кошки — это другая, а лучше та же самая кошка".

Во-вторых, автоматизация оказала немедленный негативный эффект на работающих людей: "Давайте помнить, что автомат, что бы мы ни думали о каких-либо чувствах, которые он может иметь или не иметь, является точным экономическим эквивалентом рабского труда. Любой труд, конкурирующий с рабским, должен принять экономические последствия рабского труда".

И, наконец, стремление к автоматизации также означает, что ученые и технологи могут потерять контроль над путем развития технологий. "Необходимо осознать, что человеческие действия — это действия с обратной связью" - это означает, что мы корректируем свои действия на основе информации о том, что происходит вокруг нас. Но "когда созданная нами машина способна оперировать поступающими данными в темпе, который мы не можем поддерживать, мы можем не знать, пока не станет слишком поздно, когда ее выключить". Однако все это не было неизбежностью: машины могут быть поставлены на службу людям в качестве дополнения к нашим навыкам. Как писал Винер в статье, подготовленной в 1949 году для New York Times (часть статьи была опубликована посмертно в 2013 году), "мы можем быть скромными и жить хорошо с помощью машин, или мы можем быть высокомерными и погибнуть".

Два провидца подхватили факел Винера. Первым был Дж. К. Р. Ликлайдер, который сосредоточился на поощрении других к принятию и продуктивному развитию этого подхода. Первоначально Ликлайдер получил образование психолога, но впоследствии перешел в сферу информационных технологий и предложил идеи, которые стали решающими для сетевых компьютеров и интерактивных вычислительных систем. Четкая формулировка этого видения содержится в его новаторской статье 1960 года "Симбиоз человека и компьютера". Анализ Ликлайдера актуален и сегодня, спустя более шестидесяти лет после его публикации, особенно, где он подчеркивает, что "по сравнению с людьми, вычислительные машины очень быстры и точны, но они ограничены в выполнении только одной или нескольких элементарных операций за раз. Люди гибкие, способные "программировать себя на случай" на основе вновь полученной информации".

Второй сторонник этого альтернативного видения, Дуглас Энгельбарт, также сформулировал идеи, которые являются предшественниками нашего понятия полезности машины. Энгельбарт стремился сделать компьютеры более удобными и простыми в эксплуатации для непрограммистов, исходя из своего убеждения, что они будут наиболее преобразующими, когда они "повысят способность человечества справляться со сложными, неотложными проблемами".

Самые важные инновации Энгельбарта были эффектно показаны в шоу, которое позже окрестили "Матерью всех демонстраций". На конференции, организованной Ассоциацией компьютерной техники совместно с Институтом инженеров по электротехнике и электронике 9 декабря 1968 года, Энгельбарт представил прототип компьютерной мыши. Это приспособление, состоящее из большого ролика, деревянной резной рамы и одной кнопки, было совсем не похоже на привычную нам сегодня компьютерную мышь, но благодаря проводам, торчащим из спины, оно было достаточно похоже на грызуна, чтобы получить такое название. Она одним махом изменила то, что большинство пользователей могли делать с компьютером. Именно эта инновация позволила компьютерам Macintosh Стива Джобса и Стива Возняка опередить персональные компьютеры и операционные системы на базе Microsoft. Среди других инноваций Энгельбарта, некоторые, из которых также были продемонстрированы на "Матери всех демонстраций", - гипертекст (на котором сегодня держится Интернет), растровые экраны (которые сделали возможными различные другие интерфейсы) и ранние формы графического интерфейса пользователя. Идеи Энгельбарта продолжали генерировать ряд других достижений, особенно под эгидой компании Xerox (и многие из этих идей вновь стали решающими для Macintosh и других компьютеров).

Альтернативное видение Винера, Ликлайдера и Энгельбарта заложило основы некоторых из самых плодотворных разработок в области цифровых технологий, даже если сегодня это видение затмевается иллюзией ИИ. Чтобы понять эти достижения, и почему они не получили столько внимания, сколько успехи доминирующей парадигмы, нам сначала нужно обсудить, как МУ работает на практике.

 

Полезность машины в действии

Можно