Прицельное мышление. Принятие решений по методикам британских спецслужб - Дэвид Оманд

Мы знаем из бесчисленных психологических экспериментов, что можем убедить себя в наблюдении типового развития событий там, где такого развития на самом деле нет. Особенно, если наше мышление глубоко сконцентрировано на ином. Как же мы можем прийти к самой объективной интерпретации того, что сообщают нам наши чувства? Отложим в сторону трудности, которые мы обсуждали в предыдущей главе, – трудности знания о том, что именно является достаточно надежными фрагментами информации, чтобы оправдать наше представление о них, как о фактах. Даже если мы уверены в подобных фактах, мы все равно можем неправильно понять их важность.

Например, представьте себя сидящим поздно вечером в пустом вагоне последнего поезда из аэропорта. Грузный неопрятный мужчина заходит в вагон, садится позади вас и начинает агрессивно разговаривать сам с собой, по-видимому, угрожая кому-то неприятностями. Вероятно, такие первые впечатления сначала вызовут мысль о том, что вы не хотите оставаться наедине с этим человеком. Ведь незнакомец демонстрирует поведение, похожее на психическое расстройство. У вас возникает опасение, что, возможно, он станет буйным; вы начинаете прикидывать расстояние до двери следующего вагона и места нахождения аварийной сигнализации, но затем вы замечаете в ухе у этого человека крошечный наушник. Вы расслабляетесь. Ваше ментальное отображение ситуации перевернулось и теперь дает вам неопасное объяснение того, что вы слышали, – вы видите перед собой очень сердитого и усталого человека после долгого перелета, совершающего звонок по мобильному телефону в компанию по прокату автомобилей, которая не смогла предоставить ему машину.

Инстинктивная формулировка вопроса как раз и заставила вас ощутить опасность в такой ситуации. Наш мозг интерпретирует факты в рамках эмоционального настроя, который добавляет остроты восприятия, и в данном случае мы узрели потенциальную опасность на составленной нами ментальной карте. Это представление изначально почти наверняка находилось за пределами сознательного мышления. Представление могло быть вызвано памятью о подобных ситуациях в прошлом или, что более вероятно, просто воображаемым представлением вероятного развития событий. Если бы вы смотрели фильм ужасов вроде «Хэллоуина» во время полета, то эффект, вероятно, был бы еще более ярко выраженным.

Термин «воздействие» («фрейминг») является полезной метафорой, грубым описанием мыслительного процесса, который бессознательно окрашивает нашу схему ситуации, выстроенную на основе умозаключения. Чудесные яркие картины Говарда Ходжкина, например, простираются за пределы холста, на всю площадь рамы. То есть рама является неотъемлемой частью картины и обусловливает наше восприятие того, что мы видим на самом полотне. Эффект задания очертаний возникает изнутри, когда наш разум реагирует на то, что мы видим, и на самом деле чувствуем и вспоминаем. Частью работы редакторов телевизионных новостей является выбор таких видеофрагментов, которые будут предоставлять визуальные и слуховые подсказки для формирования нашего понимания новостей. Как известно режиссерам фильмов, эффект изображения, воспроизводящегося вместе со звуком, сильнее при совместной работе – дабы помочь нам создать в сознании именно такое мощное представление сцены, которого желал режиссер. Когда на экране убийца поднимается по лестнице с ножом в руке, то диссонансные партии скрипок создают напряжение, тогда как помпезные звуки оркестра снимают напряжение и счастливая пара танцует на закате в конце фильма. Современная политическая реклама научилась всем этим трюкам и играет на наших чувствах, чтобы мы реагировали на информацию эмоционально, а не рационально.

До современного момента истории только человек мог осмысливать факты. Завтра, однако, это может быть машина, использующая программу искусственного интеллекта для вывода смысла из данных, а затем добавить соответствующие устройства «воздействия» к искусственно созданному выводу. Уже существует компьютеризированный анализ настроений в социальных сетях, позволяющий оценить склонность толпы к насилию. Осторожное использование искусственного интеллекта может сократить время, необходимое для предупреждения аналитиков о развивающемся кризисе.

Однако существует опасность позволить машинам сделать вывод о том, что происходит. Фондовые биржи уже столкнулись с проблемами «внезапных крахов», когда случайное падение ключевой цены акций запускает посредством программ искусственного интеллекта автоматизированную продажу, обнаруживающуюся другими торговыми алгоритмами – которые, в свою очередь, запускают программу продаж, а затем и цепную реакцию демпинга акций. Поэтому пришлось сконструировать автоматические программные тормоза, дабы предотвратить падение рынка из-за такого процесса автоматизации. Это была бы опасная параллель к тому, как строится работа на основании причинно-следственного вывода, автоматически вызывающего изменения в оборонительной позиции в ответ на обнаруженные кибератаки. Если обе стороны в своих состязательных отношениях взяли на вооружение такую технологию, то мы можем войти в мир доктора Стрейнджлава[28]. Тем более, если в этой адской игре создания автоматических выводов участвуют более двух игроков. По мере того как искусственный интеллект все больше проникает в нашу повседневную жизнь, мы не должны позволять ему беспрепятственно формировать идеи от нашего имени, не ставя нас об этом в известность. Сегодня алгоритм выбирает, какая реклама в интернете, по его мнению, лучше всего соответствует нашим интересам – да, нас раздражает, когда этот выбор ошибочен, но он не наносит нам вреда. Но что случилось бы, если это был алгоритм кредитного рейтинга, тайно решающий, что ваши просмотры и история покупок в интернете указывают на слишком высокое тяготение к риску? Чего доброго, вам было бы отказано в оформлении кредитной карты или получении доступной страховки мотоцикла.

Вернемся к теориям Байеса: научный выбор объяснительной гипотезы

Аналитик разведслужбы применяет на втором этапе методики ВООВ общепринятые научные методы ради объяснения повседневного мира. Результатом должна быть объяснительная гипотеза, которая наилучшим образом соответствует наблюдаемым данным, с наименьшими сформулированными излишними допущениями и с альтернативными гипотезами, которые были высказаны против доказательств и признаны менее удовлетворительными. Самые лучшие идеи в науке, после достаточного числа повторений в различных экспериментах, удостаиваются названия «теории». В разведывательной работе, как и в повседневной жизни, мы обычно остаемся на уровне объяснительной гипотезы, сознавая, что в любой момент могут появиться новые доказательства, которые заставят пересмотреть нашу оценку. Примером в предыдущей главе был Карибский кризис, когда ВВС США сфотографировали объекты и транспортные средства, замеченные на Кубе, и сопоставили фотоснимки с секретной информацией, полученной от агента МИ-6 и ЦРУ полковника Пеньковского. Это сопоставление дало аналитикам возможность предупредить президента Кеннеди, что он столкнулся с Советским Союзом, размещающим на Кубе ядерные ракеты средней дальности.