Power and Progress - Daron Acemoglu;Simon Johnson;

пользователей многие новые функции и алгоритмы Facebook внедрялись быстро и без особого изучения того, как они повлияют на психологию пользователей и дезинформацию на платформе. Общий подход компании и ее инженеров к внедрению новых функций, направленных на повышение вовлеченности пользователей, можно выразить словами "Fuck it, ship it" - выражение, часто используемое сотрудниками компании.

Но это был не просто случай непреднамеренного ущерба на пути к достижению большей вовлеченности. Руководство Facebook было намерено максимизировать вовлеченность пользователей и не хотело, чтобы другие соображения стояли на пути. Сандберг неоднократно настаивала на том, что в Instagram, который был приобретен Facebook в 2012 году с обещаниями, что приложение останется независимым от Facebook и будет принимать собственные бизнес-решения, включая дизайн приложения и рекламу.

Когда после президентских выборов 2020 года в США компания Facebook решила изменить свой алгоритм таким образом, чтобы он не продвигал недостоверные истории и ненадежные сайты, результаты были поразительными. Ненавистнический контент и дезинформация перестали попадать в сеть. Но спустя некоторое время изменения были отменены, и платформа вернулась к привычному режиму работы, в основном потому, что когда компания проверила влияние изменений на вовлеченность, она обнаружила, что, когда люди становились менее раздраженными и спровоцированными, они проводили там меньше времени.

На протяжении всего времени Цукерберг и Сэндберг, к которым позже присоединился Клегг, защищали эти решения на том основании, что платформа не должна ограничивать чью-либо свободу слова. В ответ британский комик Саша Барон Коэн подытожил то, что многие считали проблемой: "Речь идет о предоставлении людям, включая некоторых из самых предосудительных людей на земле, самой большой платформы в истории, чтобы охватить треть планеты".

Антидемократический поворот

Мы не можем понять политическую неразбериху, которую создали социальные сети, не признавая мотив прибыли, основанный на целевой рекламе, который заставляет эти компании ставить во главу угла максимальное привлечение пользователей, а иногда и ярость. Таргетированная реклама, в свою очередь, была бы невозможна без сбора и обработки огромного количества данных.

Мотив прибыли - не единственный фактор, который подтолкнул технологическую индустрию в этом антидемократическом направлении. Не менее важную роль сыграло видение основателей этих компаний, которое мы окрестили иллюзией ИИ.

Демократия, прежде всего, заключается в том, чтобы множество голосов, в том числе голоса простых людей, были услышаны и стали значимыми в направлениях государственной политики. Понятие "публичной сферы", предложенное немецким философом Юргеном Хабермасом, отражает некоторые из основных характеристик здорового демократического дискурса. Хабермас утверждал, что публичная сфера, определяемая как форумы, где люди создают новые ассоциации и обсуждают социальные вопросы и политику, является ключевой для демократической политики. Используя в качестве модели британские кофейни или французские салоны девятнадцатого века, Хабермас предположил, что важнейшей составляющей публичной сферы является возможность, которую она предоставляет людям, свободно участвовать в дебатах по вопросам, представляющим общий интерес, без строгой иерархии, основанной на ранее существовавшем статусе. Таким образом, публичная сфера создает как форум, на котором можно услышать различные мнения, так и плацдарм для влияния этих мнений на политику. Она может быть особенно эффективной, когда позволяет людям взаимодействовать с другими людьми по ряду сквозных вопросов.

В самом начале даже появилась надежда, что онлайн-коммуникации могут породить новую общественную сферу, в которой люди из еще более разнообразных слоев общества, чем в местной политике, смогут свободно взаимодействовать и обмениваться мнениями.

К сожалению, онлайн-демократия не соответствует бизнес-моделям ведущих технологических компаний и иллюзии ИИ. На самом деле, она диаметрально противоположна технократическому подходу, который утверждает, что многие важные решения слишком сложны для обычных людей. В коридорах большинства технологических компаний царит атмосфера, когда гениальные мужчины (а иногда, но не так часто, и женщины) работают, стремясь к общему благу. Вполне естественно, что именно они должны принимать важные решения. При таком подходе политический дискурс масс становится предметом манипуляции и добычи, а не поощрения и защиты.

Таким образом, иллюзия ИИ благоприятствует антидемократическому импульсу несмотря на то, что многие из ее руководителей считают себя левоцентристами и сторонниками демократических институтов и даже Демократической партии. Их поддержка часто коренится в культурных вопросах и удобно обходит стороной жизненно важный строительный блок демократии: активное участие людей в политике. Такое участие особенно не поощряется, когда речь идет об ИИ, поскольку большинство предпринимателей и венчурных капиталистов считают, что люди не понимают эту технологию и неоправданно беспокоятся о ее навязчивом воздействии. Как сказал один венчурный капиталист, "большинство страхов, связанных с искусственным интеллектом, раздуты, а то и вовсе беспочвенны". Решение состоит в том, чтобы игнорировать эти опасения, двигаться вперед и интегрировать искусственный интеллект во все аспекты нашей жизни, потому что "возможно, только когда технология полностью интегрирована в повседневную жизнь и отступает на задний план нашего воображения, люди перестают ее бояться". По сути, такой же подход отстаивал и Марк Цукерберг, когда он сказал журналу Time: "Когда появляется какая-либо технология или инновация и меняет природу чего-либо, всегда находятся люди, которые сетуют на изменения и хотят вернуться к прежнему времени. Но, я имею в виду, я думаю, что это явно позитивно для людей в плане их возможности оставаться на связи с людьми".

Другой аспект иллюзии ИИ - возвышение дезорганизации как добродетели, заключенной в словах "двигайся быстро и ломай вещи", - ускорил этот антидемократический поворот. Под срывом стали понимать любые негативные последствия для других, включая работников, организации гражданского общества, традиционные СМИ и даже демократию. Все это было честной игрой, фактически поощрялось, если это было следствием захватывающих новых технологий и соответствовало увеличению доли рынка и получению прибыли.

Отражение этого антидемократического импульса можно увидеть в собственном исследовании Facebook о том, как пользователи реагируют на негативные и позитивные эмоции друзей в своей ленте новостей. В 2014 году компания провела масштабное внутреннее исследование, манипулируя новостной лентой почти семисот тысяч пользователей, уменьшив на неделю их воздействие как положительных, так и отрицательных эмоций. Неудивительно, что большая подверженность негативным эмоциям и меньшая подверженность позитивным эмоциям повлияли на пользователей, оказав длительное негативное воздействие.

Компания не спрашивала у пользователей никакого разрешения на проведение этого масштабного исследования и даже не пыталась придерживаться общепринятых стандартов научных исследований, где необходимо информированное согласие испытуемых. После того, как некоторые результаты исследования были опубликованы исследователями Facebook и другими в журнале Proceedings of the National Academy of Sciences, главный редактор опубликовал статью с выражением обеспокоенности, поскольку исследование было проведено без информированного согласия и не соответствовало принятым стандартам научных исследований. Google следовал той же схеме в своих попытках расширить объем собираемой информации с помощью Google Books и Google Maps. Компания игнорировала опасения