Power and Progress - Daron Acemoglu;Simon Johnson;

Мы проследили этот процесс от Британии к Соединенным Штатам, по мере того как менялось технологическое лидерство. Технологии США двадцатого века еще более решительно двигались в направлении повышения предельной производительности труда. Таким образом, они заложили основы всеобщего процветания не только внутри страны, но и в большинстве стран мира, поскольку американские технологии и инновации распространились по всему миру и обеспечили массовое производство и рост среднего класса в десятках стран.

В течение последних пятидесяти лет Соединенные Штаты оставались в авангарде технологий, и их производственные методы и практика, особенно цифровые инновации, по-прежнему распространяются по всему миру, но теперь уже с совершенно другими последствиями. Американская модель всеобщего процветания разрушилась, поскольку власть сосредоточилась в руках крупных корпораций, институты и нормы распределения ренты распались, а технологии, начиная с 1980 года, пошли в направлении преимущественно автоматизации.

Все это уже происходило, и видение, оживляющее использование технологий для автоматизации труда, контроля и вытеснения работников, прочно укоренилось еще до появления последней волны ИИ. Мы уже были на пути к двухуровневому обществу задолго до 2010-х годов. С усилением иллюзий по поводу ИИ мы наблюдаем ускорение этого процесса.

Современный ИИ усиливает инструменты в руках технологических элит, позволяя им создавать все новые способы автоматизации труда, оттесняя человека на второй план и якобы делая всевозможные добрые дела, такие как повышение производительности и решение основных проблем, стоящих перед человечеством (как они утверждают). Наделенные возможностями ИИ, эти лидеры чувствуют еще меньше необходимости советоваться с остальным населением. На самом деле, многие из них считают, что большинство людей не настолько мудры и даже не понимают, что для них хорошо.

Брачный союз цифровых технологий и крупного бизнеса привел к тому, что к середине 2000-х годов число миллиардеров росло. Такие состояния умножились, когда в 2010-х годах начали распространяться инструменты искусственного интеллекта. Но это произошло не потому, что ИИ оказался таким продуктивным и удивительным, как утверждали его сторонники. Напротив, автоматизация на основе ИИ часто не способна настолько повысить производительность. Хуже того, это не способ построить общее процветание. Она, тем не менее, восхищает и обогащает магнатов и топ-менеджеров, в то время как лишает рабочих прав и открывает новые способы монетизации информации о людях.

То, что все это игнорируется в безумной спешке использования цифровых технологий для автоматизации труда и контроля за людьми, является причиной, по которой мы назвали эту новую фазу видения иллюзией ИИ. В ближайшее десятилетие эта иллюзия будет усиливаться по мере разработки более мощных алгоритмов, роста глобальной интернет-связи, постоянного подключения бытовой техники и других машин к облаку, что позволит собирать более обширные данные.

Сегодня мы все ближе подходим к антиутопии будущего "Машина времени" Уэллса. Наше общество уже стало двухуровневым. На вершине находятся крупные магнаты, которые твердо уверены, что они заработали свое богатство благодаря своей удивительной гениальности. Внизу - обычные люди, которых технологические лидеры считают склонными к ошибкам и готовыми к замене. По мере того, как ИИ проникает во все новые и новые аспекты современной экономики, становится все более вероятным, что эти два уровня будут все больше отдаляться друг от друга.

Все это не обязательно должно было быть так. Цифровые технологии не должны были использоваться только для автоматизации труда, а технологии искусственного интеллекта не должны были применяться без разбора, чтобы усилить ту же тенденцию. Технологическое сообщество не должно было быть заворожено машинным интеллектом вместо того, чтобы работать над полезностью машин. В этом пути технологий нет ничего предрешенного, как нет ничего неизбежного в двухуровневом обществе, которое создают наши лидеры.

Существуют пути выхода из сложившейся ситуации путем изменения конфигурации распределения власти в обществе и перенаправления технологических изменений. Такие изменения должны происходить на основе восходящих демократических процессов. Однако зловеще то, что ИИ также разрушает демократию.

Глава 10. Демократия ломается

История социальных сетей еще не написана, а их влияние не является нейтральным.

-Крис Кокс, руководитель отдела продуктов, Facebook, 2019 год

Если все и всегда вам лгут, то следствием этого будет не то, что вы поверите в эту ложь, а то, что никто уже ничему не верит.

-Ханна Арендт, интервью 1974 года

2 ноября 2021 года звезда китайского тенниса Пэн Шуай написала на сайте социальных сетей Weibo, что ее принудил к сексу высокопоставленный чиновник. Сообщение было удалено в течение двадцати минут и больше не появлялось в китайских социальных сетях. К тому времени, как сообщение было удалено, ряд пользователей сделали скриншоты сообщения, которые попали в зарубежные СМИ. Но доступ к этим зарубежным СМИ также был быстро подвергнут цензуре. В Китае был большой интерес к Пенг Шуай, но мало кто смог увидеть оригинальное сообщение, и не было никакого общественного обсуждения.

Такое быстрое удаление политически чувствительной информации является правилом, а не исключением в Китае, где Интернет и социальные сети находятся под постоянным наблюдением. По сообщениям китайского правительства, только на мониторинг и цензуру онлайн-контента ежегодно тратится около 6,6 миллиардов долларов.

Правительство также вкладывает огромные средства в другие цифровые инструменты и особенно в искусственный интеллект для слежки. Это наиболее заметно в провинции Синьцзян, где систематический сбор данных о мусульманах-уйгурах начался сразу после июльских беспорядков 2009 года, но с 2014 года он усилился. Коммунистическая партия поручила нескольким ведущим технологическим компаниям разработать инструменты для сбора, агрегирования и анализа данных об индивидуальных и домашних привычках, манере общения, работе, расходах и даже хобби, чтобы использовать их в качестве исходных данных для "предиктивной полицейской деятельности" против одиннадцати миллионов жителей провинции, которые считаются потенциальными диссидентами.

Несколько крупных технологических компаний Китая, включая Ant Group (частично принадлежащую Alibaba), телекоммуникационный гигант Huawei и некоторые из крупнейших в мире компаний по разработке искусственного интеллекта, такие как SenseTime, CloudWalk и Megvii, сотрудничали с правительством в разработке инструментов слежки и их внедрении в Синьцзяне. В настоящее время ведутся работы по отслеживанию людей по их ДНК. Технологии искусственного интеллекта, распознающие уйгуров по чертам лица, также используются повсеместно.

То, что началось в Синьцзяне, затем распространилось на остальную часть Китая. Камеры распознавания лиц теперь широко распространены по всей стране, а правительство неуклонно продвигается к внедрению национальной системы социального кредита, которая собирает информацию о физических и юридических лицах для отслеживания их нежелательной и неблагонадежной деятельности. Это, конечно, включает в себя инакомыслие и подрывную критику правительства. Согласно официальному плановому документу, система социального кредита

основана на законах, правилах, стандартах и уставах, опирается на полную сеть, охватывающую кредитные записи членов общества и кредитную инфраструктуру,