Свободу мозгу! Что сковывает наш мозг и как вырвать его из тисков, в которых он оказался - Идрисс Аберкан

Мы в состоянии развивать замечательные технологии истребления друг друга, но почему бы не сделать их доступными гражданскому населению, которое применит их по другому назначению? Если ситуационный интеллект действенен в политике, стратегии и тактике, то не заинтересуется ли им врач, адвокат, преподаватель и пожарный? Я мечтаю о мире, где разные виды эргономичного оружия будут сражаться друг с другом за приспособление их к гражданскому обществу, а не наоборот. Где гражданская мысль будет руководить военной, а гений разрушения подчинится мудрому гению созидания.

«Конфискация» результатов нейроэргономических исследований в пользу армии грозит их чрезмерным использованием. Особенно меня пугает их применение на допросах. Сегодня мы уже познакомились с концепцией «обратной ретинотопии», представленной во Франции Бертраном Тирионом и Станисласом Деаэном, которым удалось с помощью фМРТ определить, какой умственный образ присутствует в мозге испытуемого. Этот метод требует калибровки: нужно попросить испытуемого несколько раз воспроизвести в уме группу очень простых образов (крест, круг, треугольник) и записать ответную реакцию. Также ученым удалось научиться различать реакцию спонтанную и ответную, определяя эти психические состояния при помощи одной лишь визуализации: наблюдение за работой мозга позволяет «читать мысли», правда, в определенном смысле и в очень ограниченной степени.

Хотя пока мы не можем узнавать мысли методом визуализации, мы к этому приближаемся. Располагая современными средствами, можно предсказать, какое решение будет принято обезьяной или человеком, предвидеть тактику партнера в покере, некоторые чувственные составляющие мысли. Мы сможем увидеть, думает ли некто о вкусе смородины или запахе альпийских лугов в ходе более сложного размышления.

Но можно пойти и еще дальше, внедряя генетическое программирование и глубинное обучение. Эта последняя технология настолько опасна, что Илон Маск и Стивен Хокинг считают ее слишком серьезной, чтобы доверить военным, в чьих руках она, тем не менее, уже находится. Генетическое программирование с огромной скоростью[323] симулирует эволюцию и позволяет генерировать программы, способные приспосабливаться к любым обстоятельствам. Если при заданных условиях есть вариант решения, который можно отыскать за определенное количество времени, то когда-нибудь программа его обязательно отыщет. Уже разработана беспроигрышная математическая стратегия для некоторых видов покера[324]. Гипотетически скоро удастся приспособить генетический алгоритм к интеллекту каждого из нас, так что станет возможным определять мысли и обычное поведение каждого человека по хорошо узнаваемым нервным характеристикам. Статистические показатели поведения не являются непогрешимыми, но от этого они не становятся менее мощными.

Но мы еще не упомянули о датаметрии. Раньше полиция использовала поведенческие или географические показатели, чтобы определить местонахождение преступников. Но с недавних пор Интерпол, Европол, ФБР, ЦРУ и АНБ научились находить пользователей интернета по их навигомам — их перемещению в интернете. Серия из тридцати сайтов, посещаемых за день, представляет собой полную, точную и вполне достаточную информацию для определения по ней одного индивидуума среди семи миллиардов. Вероятность ложного результата — менее единицы на сто миллиардов (если алгоритм отбора был хорошо просчитан).

Илон Маск далеко не единственный, кто предостерегал ООН и гражданское общество от внедрения искусственного интеллекта в армии. В недалеком будущем самостоятельное оружие, запрограммированное на «сделай все необходимое», будет истреблять невинных еще чаще, чем современные беспилотники, которые убили больше случайных людей, чем поразили намеченных целей[325]. Сегодня мы располагаем ракетами с инфракрасной наводкой, которые находят цель по выделяемому ей теплу. С появлением нанотехнологий и микродронов, способных убивать незаметно — такие технологии уже существуют, возрастает интерес ученых к разработкам биооружия. Иначе его называют «этническим» — вирусы будут распознавать определенную генетическую последовательность и уничтожать только тех, кто ею обладает. Вполне вероятно появление оружия нейронного наведения, особенно если в основе его будет заложен усредненный генетический алгоритм.

Программист Пьер Колле любит повторять, что эволюционные алгоритмы по сути являются революционными, только у них отсутствует буква «Р». Они способны найти лучшее сочетание сортов кофе, чтобы стандартизировать вкус напитка из данного сорта на много лет, независимо от урожая. Или определить форму спутниковой антенны, что не по силам обычным инженерам[326]. Они могут открыть оригинальные и абсолютно неожиданные варианты, экспериментируя с законами реального мира методом проб и ошибок, как это делает сама жизнь. Их результаты настолько сопоставимы с человеческими, что они могли бы подавать заявки на изобретение.

Итак, взаимодействие персональной информатики, массовой нейроники и эволюционных алгоритмов дает принципиальную возможность обнаружить и подчинить себе любого благодаря его нейродатасому, лишить его свободомыслия, интимного пространства, его «Хабеас анима». Нейродатасом слишком серьезная и драгоценная вещь, чтобы доверять его кому попало, кроме законного носителя.

В 2016 году мы видели, как государства совершенно спокойно позволяли себе вольности в отношении частной жизни людей. Искушение использовать нейродатасом в своих интересах напоминает роман «1984». Методы, которые собираются применять, поражают своей простотой: в конкурентном мире нейроэргономичный интерфейс даст неоценимую возможность выиграть в эффективности и времени, предоставив новые рычаги психической жизни. Но в обмен на эту услугу человек должен позволить алгоритмам прикоснуться к своей психической жизни и эволюционировать вместе с ней, разрешив записывать всю информацию для повышения производительности. Разведывательным службам останется только протянуть руку и незаконно завладеть всеми этими сведениями, что они уже и так делают.