Power and Progress - Daron Acemoglu;Simon Johnson;

искусственный интеллект Великий файервол был дополнен постоянной слежкой с использованием данных, собранных на всех китайских платформах и рабочих местах. В такой обстановке захотят ли китайские студенты университетов получить доступ к иностранным СМИ, если бы у них была такая возможность? Именно этот вопрос задали себе два исследователя в амбициозном исследовании. Ответ, который они нашли, удивил даже их самих.

В середине 2010-х годов у Великого файервола было одно слабое место. Он блокировал доступ китайских пользователей к иностранным СМИ и веб-сайтам, используя их IP-адреса, которые указывали, находятся ли они в материковом Китае. Но VPN (виртуальные частные сети) могли использоваться для скрытия IP-адресов, что позволяло пользователям в материковом Китае получать доступ к цензурируемым веб-сайтам. Правительство не запрещало VPN, и информация о сайтах, посещаемых с их помощью, была недоступна властям, что делало такой обходной путь достаточно безопасным. (Однако с тех пор ситуация изменилась: частное использование VPN запрещено, а все провайдеры VPN должны зарегистрироваться в правительстве).

В ходе хитроумно спланированного эксперимента два исследователя предлагали студентам университетов Пекина бесплатный доступ к VPN (а иногда и дополнительные поощрения в виде рассылок и других средств), чтобы они могли получать доступ к западным новостным изданиям в течение восемнадцати месяцев в период с 2015 по 2017 год. Студенты, получавшие эти дополнительные поощрения, посещали западные СМИ, интересовались новостями и, начав это делать, продолжали получать новости из зарубежных источников. Их ответы на опросы показывают, что они поняли и поверили информации, изменили свои политические взгляды и стали более критично относиться к китайскому правительству. Они также выразили гораздо больше симпатии к демократическим институтам.

Тем не менее, и без дополнительных поощрений подавляющее большинство студентов не проявляли интереса к посещению иностранных сайтов и даже не хотели иметь бесплатный VPN-доступ. Они были настолько убеждены пропагандой в школах и китайских СМИ, что в западных источниках нет актуальной и достоверной информации о Китае, что им не нужна была активная цензура. Они уже усвоили цензуру.

Исследователи интерпретировали этот вывод как "Brave New World" Олдоса Хаксли, а не "1984" Джорджа Оруэлла. По словам социального критика Нила Постмана, "Оруэлл боялся тех, кто запретит книги. Хаксли боялся того, что не будет причин запрещать книги, потому что не найдется никого, кто захочет их читать".

В антиутопии Хаксли общество разделено на жестко сегментированные касты, начиная от альф на вершине и заканчивая бетами, гаммами, дельтами и вплоть до эпсилонов. Но больше нет необходимости в постоянной цензуре и слежке, потому что "при научном диктаторе образование будет действительно работать, в результате чего большинство мужчин и женщин вырастут и будут любить свое рабство и никогда не будут мечтать о революции". Кажется, нет никаких веских причин, по которым научная диктатура должна быть когда-либо свергнута".

 

От Прометея до Пегаса

Использование цифровых инструментов для подавления инакомыслия характерно не только для Китая. Иран и Россия, среди прочих диктатур, также использовали их для отслеживания и наказания инакомыслящих и подавления доступа к свободной информации.

Еще до "арабской весны" использование социальных сетей в продемократических протестах привлекло внимание международной общественности во время неудачной "зеленой революции" в Иране. Огромные толпы людей (по некоторым оценкам, до трех миллионов) вышли на улицы, чтобы свергнуть президента Махмуда Ахмадинежада, который, как считалось, подтасовал результаты выборов 2009 года, чтобы остаться у власти. В координации протестов использовались многочисленные социальные сети, включая текстовые сообщения и Facebook.

Вскоре протесты были подавлены, а большое количество оппозиционных деятелей и студентов арестовано. После этого в Иране усилилась цензура в Интернете. В 2012 году был создан Верховный совет по киберпространству для контроля над интернетом и социальными сетями, и сегодня почти все западные социальные сети, различные потоковые сервисы (включая Netflix) и большинство западных новостных СМИ заблокированы в Иране.

Эволюция роли социальных медиа в политике и последовавшие за этим правительственные репрессии в России похожи. Сайт VK (ВКонтакте) стал самой популярной платформой социальных сетей в стране и уже широко использовался к 2011 году. Фальсификации на парламентских выборах 4 декабря 2011 года, задокументированные в Интернете фотографиями вброса бюллетеней и многочисленных голосов, поданных сторонниками правительства, вызвали массовые протесты. Последующее исследование показало, что протесты координировались на платформе, и в городах, где ВК использовался более широко, антиправительственные акции были значительно более масштабными.

Как и в Китае и Иране, протесты послужили толчком к усилению государственного контроля и цензуры интернет-активности в России. С тех пор систематическая цензура усилилась. Система оперативно-розыскных мероприятий заставляет всех операторов связи устанавливать оборудование, предоставленное Федеральной службой безопасности (ФСБ), что позволяет ФСБ отслеживать метаданные и даже контент, а также блокировать доступ, без необходимости получения ордера. После очередного раунда протестов в 2020 году было заблокировано еще больше диссидентских и новостных сайтов, запрещены инструменты VPN и зашифрованный браузер Tor, а также введены новые, астрономические штрафы в качестве способа принуждения компаний к предотвращению доступа к незаконному контенту, включая посты в социальных сетях и сайты с критикой правительства. Хотя технологии ИИ менее важны для российских усилий по цензуре, их роль в последнее время также возросла.

Злоупотребление цифровыми инструментами, направленное против оппозиционных групп, не ограничивается диктатурами. В 2020 году в Forbidden Stories, международную организацию, стремящуюся публиковать истории журналистов, подвергающихся репрессиям по всему миру, просочился список из примерно пятидесяти тысяч телефонных номеров. Номера принадлежали оппозиционным политикам, правозащитникам, журналистам и диссидентам, которые, по сообщениям, подвергались взлому с помощью шпионской программы Pegasus, разработанной израильской технологической компанией NSO Group (названной по фамилиям ее основателей Нива Карми, Шалева Хулио и Омри Лави). (NSO отрицает любые правонарушения, заявляя, что программное обеспечение предоставляется только "проверенным правительственным клиентам" и что эти клиенты сами решают, как его использовать).

Pegasus - это программа "zero-click", то есть она может быть установлена на мобильные телефоны удаленно, не требуя от пользователя нажатия на какие-либо ссылки - другими словами, она может быть установлена без ведома или согласия пользователя. Его название происходит от имени крылатого коня Пегаса в греческой мифологии, что указывает на широкий класс программного обеспечения, к которому он относится (троянский конь), и на тот факт, что он летает, а не устанавливается вручную. Современные технологические лидеры стремятся подчеркнуть огненную силу ИИ и изображают себя в роли современного Прометея, дарующего человечеству силу технологии. Но Пегас, а не Прометей — вот что мы, похоже, получили от современных цифровых технологий.

Pegasus может читать текстовые сообщения, прослушивать звонки, определять местоположение, удаленно собирать пароли, отслеживать активность в Интернете и даже брать под контроль камеру и микрофон телефона. Как