Взломать всё. Как сильные мира сего используют уязвимости систем в своих интересах - Брюс Шнайер

что средней семье потребовалось зарабатывать в 100 с лишним раз больше значения минимальной заработной платы, только чтобы покупать самое необходимое. Это привело к тому, что более 10 % населения эмигрировало из страны.

Другие примеры хакерских атак с целью разрушения связаны с недавним приходом к власти ряда авторитарных правительств в таких странах, как Россия, Сирия, Турция, Филиппины, Венгрия, Польша, Бразилия и Египет. Выборы там все еще проводятся, и голоса все еще подсчитываются. Законодательные органы по-прежнему принимают законы, а суды обеспечивают их исполнение. Права на свободу слова и свободу ассоциаций часто остаются в силе, по крайней мере формально. Но все эти механизмы и институты были взломаны и поставлены на службу диктатурам.

И наоборот, некоторые системы необходимо взломать, чтобы уничтожить. Бойкоты и гражданское неповиновение в целом – это хакерские атаки: они нарушают правила рынка и привычной политики, чтобы выразить протест против несправедливости. Обратная реакция, которую они вызывают, делает явными скрытые в системах насилие и жестокость, сдвигая политическую повестку в сторону разрушения таких систем, как дискриминационные законы, которые долгое время считались нормой. Задача, с которой мы сталкиваемся, заключается в том, чтобы убедиться, что наши хаки разрушают плохое, оставляя при этом хорошее… и понимать, что из этого что.

Часть VI

Хакинг когнитивных систем

43

Когнитивные хаки

Вот хак, который я регулярно использовал в 1990-х гг., когда мы еще пользовались бумажными авиабилетами, чтобы сэкономить на перелетах. Получение бумажного посадочного талона было отдельным от покупки билета действием, его можно было получить за несколько недель до полета, и для этого нужно было пообщаться с реальным человеком.

В те времена я жил в Вашингтоне, округ Колумбия, и много летал по работе. Скажем так, у меня были причины проводить выходные в Чикаго, но работодатель не позволял делать дорогостоящую остановку. Однако у меня был хак. Скажем, у меня есть билет из Сиэтла в Вашингтон с пересадкой в Чикаго на воскресенье. Сначала я должен пойти в кассу авиакомпании и получить распечатанные посадочные талоны, которые агент прикрепляет степлером к моим билетам. Я откреплял их и прятал, а на другой день возвращался в кассу и менял оба рейса на пятницу (в те времена поменять билеты стоило недорого). Агент авиакомпании вводил изменения в компьютер и выдавал мне новую пару посадочных талонов, снова прикрепленных степлером к тому же билету. В пятницу, как и предполагалось, я летел из Сиэтла в Чикаго, затем проводил там выходные, а вернувшись в аэропорт в воскресенье, подходил к выходу на посадку на рейс Чикаго – Вашингтон с оригинальным билетом и первым посадочным талоном, который я сохранил. Несмотря на то что компьютер не показывал бронь на мое имя, у меня был билет с правильной датой и посадочный талон с воскресного рейса Сиэтл – Чикаго, чтобы показать, если у кого-то возникнут сомнения. Сбитый с толку, агент игнорировал то, что сообщал ему компьютер, выдавал новый посадочный талон и пропускал меня в самолет.

Это был отличный хак, и он работал до тех пор, пока авиакомпании не перешли на электронные билеты и не отказались от бумажных посадочных талонов. Но что именно я взламывал? Уж точно не систему бронирования авиабилетов. Компьютер четко сказал, что у меня нет брони на этот рейс. На самом деле я хакал самого агента авиакомпании, контролирующего посадку. Я был уверенным в себе белым мужчиной, совершающим деловую поездку, с надлежащим образом оформленным билетом и посадочным талоном в руках. Проблема могла быть связана с компьютерной ошибкой, – по крайней мере, именно такое предположение в итоге делал агент. Это может показаться странным, но хакал я не что-нибудь, а человеческий мозг.

Наш мозг – это система, которая развивалась в течение миллионов лет, чтобы поддерживать жизнь на уровне каждой особи и, что более важно (с точки зрения генов), – чтобы поддерживать воспроизводство вида. Он был оптимизирован благодаря постоянному взаимодействию с окружающей средой, но оптимизирован для людей, которые жили небольшими родовыми общинами на Восточно-Африканском плоскогорье 100 000 лет назад. Человеческий мозг не слишком хорошо подходит для жизни в Нью-Йорке, Токио или Дели XXI в. Чтобы приспособиться к современной социальной среде, он вынужден задействовать множество когнитивных функций, а значит, им можно манипулировать.

Будет упрощением говорить о том, что биологические и психологические системы человека являются системами «естественными», а затем заявлять, что хакинг подрывает их цели. Эти системы функционируют и развиваются незапланированно. Тем не менее такой упрощенный подход может дать полезную основу для обсуждения. Мы можем ссылаться на «цель» биологических и психологических систем – например, на цель поджелудочной железы или цель чувства доверия – без необходимости выходить за рамки эволюционных процессов. (Здесь уместна аналогия с экономическими и политическими системами, у которых тоже нет единого проектировщика.) Хакинг творчески подрывает эти системы. Как и взломы созданных человеком систем, когнитивные хаки используют уязвимость, чтобы подорвать цель когнитивной системы.

Когнитивные хаки обладают невероятной силой. Многие социальные системы, на которые опирается наше общество, – демократия, рыночная экономика и т. д. – зависят от людей, принимающих рациональные решения. В предыдущих главах мы рассматривали хаки, которые успешно ограничивали один из трех внешних аспектов этого процесса: информацию, выбор и свободу действий. В этой и следующих главах мы узнаем, как процесс принятия решения взламывается напрямую – непосредственно в нашем сознании.

Возьмем, к примеру, дезинформацию – хак, который подрывает наши системы свободы слова и свободы прессы. Дезинформация – понятие далеко не новое. Геббельс, гитлеровский министр пропаганды, однажды сказал{192}: «Одной из лучших шуток демократии навсегда останется то, что она дала своим смертельным врагам средства, которыми же и была уничтожена». Дезинформация подрывает многие когнитивные системы, о которых мы будем говорить дальше: внимание, убеждение, доверие, авторитет, трибализм[27], а иногда и страх.

В отличие от других хаков когнитивные хаки относятся к более высокому уровню общности. Фактически, они являются самыми общими в иерархии хаков. В то время как законы регулируют экономические операции и другие сферы жизни общества, законодательные органы и суды отвечают за создание и пересмотр законов, а Конституция страны (или аналогичный документ) устанавливает законодательный процесс и судебную систему. Но наши социальные системы – и системы технологические, в той мере, в какой они взаимодействуют с пользователями, – зависят от того, что люди думают и насколько задействуют свои когнитивные функции, чтобы разобраться в той или иной ситуации. Если вы можете хакнуть мозг, то сможете взломать и любую систему, управляемую человеком.

Когнитивные хаки так же стары, как и наш вид. Многие из них были нормализованы так давно, что мы даже не задумываемся о них, не говоря уже о том, чтобы считать их хаками. Поскольку мы sapiens, разработавшие теорию собственного сознания и обладающие способностью планировать далеко вперед, мы подняли хакинг как таковой до уровня сложности, не доступной ни одному из известных нам видов. Как и многие хакерские приемы, описанные в предыдущих главах, когнитивные хаки нацелены на информацию, выбор или свободу действий, которые необходимы людям для принятия обдуманных и эффективных решений.

Что изменилось за последние полвека, так это возможности для манипулирования восприятием других людей – компьютеры и компьютерные интерфейсы предоставляют нам их в широком ассортименте. В сочетании с компьютерными алгоритмами и поведенческими науками они повысили скорость и изощренность вмешательства в работу сознания, а это ведет уже к качественным изменениям.

Однако паниковать не стоит. Писатель и активист Кори Доктороу предостерегает нас{193} от слепой веры в то, что «высокие технологии использовали большие данные для создания луча, контролирующего наш разум, чтобы втюхивать людям спиннеры». То, о чем пойдет речь в следующих главах, – не более чем пища для размышлений. Однако я думаю, что игнорировать опасения в этой сфере не стоит: ИИ будет делать методы манипулирования все более эффективными.

Патчи, как правило, не работают с когнитивными системами, хотя осознание факта взлома уже само по себе является патчем. Защита от когнитивных хаков сводится к превентивным мерам и смягчению нанесенного ими ущерба. Многие мошеннические игры паразитируют на наших эмоциях – жадности, доверии, страхе и прочих. Взять и поставить заплатку