Power and Progress - Daron Acemoglu;Simon Johnson;

утверждается, эта программа регулярно используется во многих странах с авторитарными правителями, включая Саудовскую Аравию, Объединенные Арабские Эмираты и Венгрию. Журналист Джамал Хашогги, который впоследствии был зверски убит и расчленен, предположительно находился под наблюдением агентов Саудовской Аравии, использовавших Pegasus. (Власти Саудовской Аравии заявили, что это была "несанкционированная операция").

Изучение цифр, полученных Forbidden Stories, выявило систематическое злоупотребление программным обеспечением со стороны многих демократически избранных правительств. В Мексике шпионское ПО изначально было приобретено как оружие против наркокартелей и использовалось в операции, которая привела к поимке главы картеля Синалоа Эль Чапо. Но впоследствии она была использована против журналистов, адвокатов, расследовавших массовое убийство сорока трех студентов, и оппозиционных партий, включая одного из лидеров оппозиции, Андреса Мануэля Лопеса Обрадора, который впоследствии стал президентом страны. В Индии правительство премьер-министра Нарендры Моди использует программное обеспечение еще более широко и установило слежку за многими важными лидерами оппозиции, студенческими активистами, журналистами, членами избирательных комиссий и даже руководителями Центрального бюро расследований страны.

Злоупотребления с использованием Pegasus не ограничились правительствами развивающихся стран. В списке был телефон президента Франции Эммануэля Макрона, а также номера нескольких высокопоставленных чиновников Госдепартамента США.

Соединенные Штаты не нуждаются в Pegasus для совершения высокотехнологичных проступков (хотя некоторые из их спецслужб экспериментировали с этим программным обеспечением, а также выступили в качестве посредника при его продаже правительству Джибути). 5 июня 2013 года мир был разбужен откровениями Эдварда Сноудена, впервые опубликованными в газете Guardian, о незаконном сборе данных Национальным агентством безопасности (АНБ). АНБ сотрудничало с Google, Microsoft, Facebook, Yahoo!, различными другими интернет-провайдерами и телефонными компаниями, такими как AT&T и Verizon, чтобы собрать огромное количество данных об интернет-поисках, онлайн-общении и телефонных звонках американских граждан. Она также прослушивала переговоры лидеров американских союзников, включая Германию и Бразилию. Он собирал данные со спутников и подводных волоконно-оптических кабелей. Сноуден описал масштабы этих программ, сказав, что, когда он был подрядчиком АНБ, "я, сидя за своим столом, безусловно, имел полномочия прослушивать любого человека, от вас или вашего бухгалтера до федерального судьи или даже президента, если у меня была личная электронная почта". Хотя эти действия были неконституционными и осуществлялись без ведома или надзора Конгресса, некоторые из них были санкционированы FISA (Судом по надзору за иностранными разведками).

Соединенные Штаты - не Китай, и эта деятельность должна была быть скрыта от средств массовой информации и даже от большинства законодателей. Когда появились разоблачения Сноудена, возникла мощная реакция против неправомерных стратегий АНБ и других агентств по сбору данных. Но этого оказалось недостаточно, чтобы остановить большую часть слежки. Возможно, еще хуже то, что частные компании, такие как Clearview AI, начали собирать изображения лиц сотен миллионов пользователей и продавать эту информацию правоохранительным органам, практически без надзора со стороны гражданского общества или других институтов. В этом нет ничего плохого, по словам основателя и генерального директора Clearview, который заявил: "Мы считаем, что это лучшее использование технологии".

Шпионские программы Pegasus, шпионаж АНБ и технология распознавания лиц Clearview иллюстрируют более глубокую проблему. Появившись на свет, цифровые инструменты для обширного сбора данных будут использоваться многими, если не большинством, правительств для подавления оппозиции и лучшего контроля за своими гражданами. Они укрепят недемократические режимы и позволят им гораздо эффективнее противостоять оппозиции. Они даже могут создать скользкую дорожку для демократических правительств, которые со временем станут более авторитарными.

Демократия умирает во тьме. Но она борется и при свете, который дает современный искусственный интеллект.

 

Наблюдение и направление развития технологий

От первоначальной эйфории по поводу демократизирующего потенциала Интернета и социальных сетей некоторые сделали полярно противоположный вывод: цифровые инструменты по своей сути антидемократичны. По словам историка Юваля Ноя Харари, "технологии благоприятствуют тирании".

Обе эти бинарные точки зрения ошибочны. Цифровые технологии не являются ни продемократическими, ни антидемократическими. Не было никакой необходимости в разработке технологий ИИ для того, чтобы дать правительствам возможность контролировать СМИ, цензурировать информацию и репрессировать своих граждан. Все это было выбором направления развития технологий.

Мы увидели, что цифровые технологии, которые по своей природе являются практически универсальными, можно было бы использовать для повышения полезности машин - например, путем создания новых рабочих задач или новых платформ, которые увеличивали бы возможности человека. Именно видение и бизнес-модель крупных технологических компаний подтолкнули к тому, чтобы в первую очередь сосредоточиться на контроле за работниками и уничтожении рабочих мест посредством автоматизации. То же самое верно и в отношении использования ИИ в качестве инструмента в руках авторитарных и некоторых якобы демократических правительств.

Мечты о том, что интернет и цифровые технологии дадут гражданам возможность противостоять диктатуре, не совсем сюрреалистичны. Цифровые технологии можно использовать для шифрования, что делает невозможным для властей прослушивание частных сообщений. Такие сервисы, как VPN, могут использоваться для противодействия цензуре. Поисковые системы, такие как Tor, в настоящее время невозможно расшифровать (насколько нам известно) и, следовательно, они обеспечивают более высокий уровень конфиденциальности и безопасности. Тем не менее, первые надежды на демократизацию цифровых технологий были разрушены, потому что технологический мир направил свои усилия туда, где лежат деньги и власть - на государственную цензуру.

Таким образом, технологическое сообщество выбрало особый путь - низкую дорогу, которая усиливает сбор данных и слежку. Хотя достижения в крупномасштабной обработке данных с использованием инструментов машинного обучения сыграли важную роль в этих усилиях, настоящим секретным соусом в слежке правительств и компаний являются огромные объемы данных.

Когда технологии ИИ усиливают авторитарные импульсы, они создают порочный круг. По мере того, как правительства становятся все более авторитарными, растет их потребность в ИИ для отслеживания и контроля своего населения, и это толкает ИИ дальше в направлении превращения в полноценную технологию мониторинга.

С 2014 года, например, наблюдается огромный рост спроса со стороны местных китайских правительств на технологии ИИ, обеспечивающие распознавание лиц и другие виды мониторинга. Этот спрос, по-видимому, отчасти вызван местными политическими волнениями. Политики хотят усилить охрану порядка и наблюдение, когда видят, что в их регионе назревает недовольство или протестная активность. Во второй половине 2010-х годов массовые протесты, особенно направленные против национального правительства, были практически невозможны, хотя локальные протесты все еще имели место, и некоторое время, как мы видели ранее в этой главе, они даже координировались в социальных сетях.

Однако к этому моменту инструменты ИИ уже были на стороне властей, а не протестующих. После внедрения технологий ИИ местные власти стали лучше справляться с подавлением и предотвращением протестов. Кстати, несмотря на то, что центральное правительство Китая и местные власти готовы нанимать большое количество полицейских, увеличение инвестиций в ИИ,