Интернет как иллюзия. Обратная сторона сети - Евгений Морозов

Многие до сих пор считают, что интернет не оставит от авторитаризма мокрого места, нанося ему тысячи смертельных информационных ударов. Авторитарные правительства жить не могут без информационных технологий, но даже допустив их, они все равно падут, потому что граждане, жаждущие бигмаков, MTV и Диснейлендов, выйдут на улицы и потребуют честных выборов. Уязвимость этой гипотезы в том, что, когда речь заходит об эмпирических доказательствах, трудно найти пример государства, которое не смогло справиться с “дилеммой диктатора”. Все авторитарные государства, кроме КНДР, приняли интернет (в Китае, например, число пользователей Сети превышает все население США). Политологи и политические деятели недооценили изощренность и гибкость аппарата сетевой цензуры. “Дилемма диктатора” предполагает одно важное допущение: невозможно создать механизмы цензуры настолько чуткие, чтобы они могли пресекать откровенно политическую деятельность в интернете, в то же время допуская или даже поощряя в Сети такую деятельность, которая способствует экономическому росту. Это предположение оказалось неверным. Правительства овладели искусством фильтрования по ключевому слову и, следовательно, получили возможность блокировать сайты, исходя из URL-адресов и даже текста на веб-страницах. Следующим шагом правительства станет, вероятно, нахождение способов перекрыть доступ к контенту, исходя из демографических данных и поведения пользователя. Оно узнает, кто и зачем пытается получить доступ к определенному контенту, чем этот пользователь занимался в Сети в предыдущие две недели, и так далее, а после решит, давать ему доступ к определенной веб-странице или нет.

Это не такое уж далекое будущее. Вероятно, финансистке, которая читает исключительно ленту агентства “Рейтер” и “Файнэншл таймс” и друзья которой – исключительно финансисты, будет позволено делать что угодно, даже искать и находить в “Википедии” статьи о нарушениях прав человека.

А женщине, чей род занятий неизвестен, иногда просматривающей “Файнэншл таймс”, связанной в “Фейсбуке” с пятью хорошо известными политическими активистами и оставляющей в блогах комментарии, содержащие слова вроде “демократия” и “свобода”, позволят посещать только правительственные сайты. Если же она представляет интерес для спецслужб, ей могут разрешить ходить на другие сайты, – но под присмотром.

Возможна ли такая индивидуализация цензуры? Будут ли цензоры знать о нас столько, что смогут принимать решения автоматически не просто в отношении каждого пользователя, но и с учетом его (или ее) поведения в определенной ситуации?

Если судить по сетевой рекламе, ждать появления “тонкой настройки” такого рода не так уж долго. “Гугл” уже сейчас решает, какие рекламные объявления нам показать, исходя из записей журнала посещений интернет-поисковика и текстов наших электронных писем. “Фейсбук” стремится сделать свою рекламу еще изощреннее: система учитывает, какой контент других сайтов мы одобрили, поставив “лайк”, а также – что понравилось нашим френдам и что они покупали в Сети. Представьте себе цензурные системы, которые подогнаны к запросам пользователей так же тщательно, как поведенческая реклама, с которой мы ежедневно сталкиваемся. Единственное различие между двумя системами заключается в том, что первая собирает данные о нас затем, чтобы показать подходящую рекламу, а вторая – чтобы запретить нам посещение некоторых веб-страниц. Диктаторы не сразу поняли, что механизмы индивидуализации, лежащие в основании “веб 2.0”, можно использовать в собственных целях. Однако они быстро учатся.

Уделяя столько внимания общепринятому и легкому способу контролировать интернет – блокированию доступа к определенным URL-адресам, – мы, возможно, упустили фундаментальные сдвиги в этой сфере. Цензура в интернете стремится к распространению вглубь (все пристальнее изучая, чем мы занимаемся в Сети и даже в офлайне) и вширь (учитывая все больше информационных параметров перед тем, как принять решение о цензурировании чего-либо).

Летом 2009 года китайское правительство объявило, что на любом проданном в стране компьютере должна быть установлена программа “Гриндэм” (GreenDam). Большинство СМИ обратили внимание на грандиозность плана, а также на то, насколько неудачно власти провели демонстрацию “Гриндэм”. Под давлением жесткой критики внутри страны и за ее пределами власти КНР от этого плана отказались, однако в миллионах компьютеров в китайских школах и интернет-кафе это программное обеспечение до сих пор работает.

Оставим в стороне внутреннюю политику. Чем действительно интересен “Гриндэм”, так это инновационным подходом к предварительной цензуре. Эта система предвещает появление в ближайшем будущем индивидуализированной цензуры. “Гриндэм”идет гораздо дальше механического блокирования доступа к сайтам из своего списка. Он анализирует поведение пользователя и решает, соответствует ли оно закону. Это точно не самое сообразительное в интернете ПО: некоторые пользователи сообщили, что “Гриндэм” заблокировал доступ ко всем сайтам, адрес которых начинался с буквы “f”.

Стоит, однако, обратить внимание не на результат, а на принцип работы “Гриндэм”. Программа очень агрессивна. Она изучает поведение пользователей (начиная с выбора сайтов и печатания текстов и кончая просмотром картинок) и пытается пресечь деятельность, которая ей не нравится (чаще всего система просто закрывает соответствующие приложения, например браузер или текстовый редактор).

Скажем, розовый цвет для “Гриндэм” – это первый признак порнографии. Если система замечает на просмотренных пользователем фотографиях избыток розового, она закрывает программу для просмотра изображений. Любопытно, что снимки обнаженных людей с темным цветом кожи программа не распознает.

Тревожнее всего то, что “Гриндэм” снабжен “черным ходом”, который позволяет программе связываться со своим “штабом” в Сети и делиться наблюдениями о характере пользователя, вверенного попечению программы. Это позволяет обучать другие компьютерам в сети новым способам идентификации нежелательного контента. “Гриндэм” – самообучающаяся и обладающая колоссальным потенциалом сетевая система цензуры: как только программа поймет, что некто набирает в поисковике слово “димакратия” вместо “демократия”, чтобы обмануть цензоров, остальные пользователи воспользоваться этой лазейкой больше не смогут.

Вообразите глобальный мозг, который ежесекундно собирает подсказки от миллионов пользователей, пытающихся обвести систему вокруг пальца, и почти сразу же использует их, чтобы закрыть имеющиеся лазейки. “Гриндэм” – это неудачное воплощение в высшей степени плодотворной и опасной идеи.

Правительствам, однако, нет необходимости ждать появления революционных разработок в сфере искусственного интеллекта, чтобы принимать более обоснованные решения о том, что цензурировать, а что нет. Отличие интернета от других медиа в том, что информация в Сети связана гиперссылками. По большому счету, все эти ссылки служат положительными аттестациями. Когда пользователь посещает определенную веб-страницу, он “голосует” за нее, и она приобретает некоторый авторитет. “Гугл” сумел свести воедино все эти нано-аттестации (сделав число входящих ссылок прогностическим параметром релевантности поискового результата) и извлекает из этого большую выгоду.