Илон Маск - Уолтер Айзексон

"Мы с Илоном сразу же нашли общий язык, и я отправился к нему на ракетный завод", - рассказывает Хассабис. Сидя в столовой с видом на сборочные линии, Маск объяснил, что причиной создания ракет, способных отправиться на Марс, является возможность сохранения человеческого сознания в случае мировой войны, удара астероида или краха цивилизации. Хассабис добавил к этому списку еще одну потенциальную угрозу: искусственный интеллект. Машины могут стать сверхразумными и превзойти нас, простых смертных, а возможно, даже решить избавиться от нас. Маск почти на минуту замолчал, обдумывая эту возможность. По его словам, во время таких трансовых периодов он проводит визуальное моделирование того, как многочисленные факторы могут действовать в течение многих лет. Он решил, что Хассабис, возможно, прав в отношении опасности ИИ, и вложил 5 млн. долл. в компанию DeepMind, чтобы следить за ее работой.

Через несколько недель после беседы с Хассабисом Маск рассказал о DeepMind представителю Google Ларри Пейджу. Они были знакомы уже более десяти лет, и Маск часто гостил у Пейджа в Пало-Альто. Потенциальная опасность искусственного интеллекта стала темой, которую Маск почти навязчиво поднимал во время их ночных разговоров. Пейдж отнесся к этому с пренебрежением.

В 2013 году на праздновании дня рождения Маска в долине Напа они вступили в жаркую дискуссию в присутствии других гостей, в том числе Люка Носека и Рида Хоффмана. Маск утверждал, что если не предусмотреть меры предосторожности, то системы искусственного интеллекта могут заменить человека, сделав наш вид неактуальным или даже вымершим.

Пейдж возразил. Почему, спрашивает он, имеет значение, если машины когда-нибудь превзойдут человека по интеллекту и даже сознанию? Это будет просто следующая ступень эволюции.

Человеческое сознание, - возразил Маск, - это драгоценное мерцание света во Вселенной, и мы не должны позволить ему погаснуть. Пейдж счел это сентиментальной чепухой. Если сознание можно воспроизвести в машине, то почему бы ей не быть столь же ценной? Возможно, когда-нибудь мы даже сможем загрузить в машину свое собственное сознание. Он обвинил Маска в том, что тот является "спекулянтом", то есть человеком, который предвзято относится к своему виду. "Ну да, я за человечество", - ответил Маск. "Мне чертовски нравится человечество, чувак".

Поэтому Маск был обескуражен, когда в конце 2013 года узнал, что Пейдж и Google планируют купить DeepMind. Маск и его друг Люк Носек попытались собрать финансирование, чтобы остановить сделку. На одной из вечеринок в Лос-Анджелесе они отправились в кладовку на верхнем этаже, чтобы провести часовой разговор по Skype с Хассабисом. "Будущее ИИ не должно контролироваться Ларри, - сказал ему Маск.

Попытка не удалась, и в январе 2014 г. было объявлено о приобретении компанией Google компании DeepMind. Первоначально Пейдж согласился создать "совет по безопасности", в который вошел Маск. Первое и единственное заседание было проведено в компании SpaceX. На нем присутствовали Пейдж, Хассабис, председатель совета директоров Google Эрик Шмидт, а также Рид Хоффман и некоторые другие. "Илон понял, что совет - это полная чушь, - говорит Сэм Теллер, бывший в то время его руководителем. "Эти ребята из Google не намерены заниматься вопросами безопасности ИИ или делать что-либо, что ограничило бы их власть".

Маск стал публично предупреждать об опасности. "Наша самая большая экзистенциальная угроза, - заявил он в 2014 году на симпозиуме в Массачусетском технологическом институте, - это, вероятно, искусственный интеллект". Когда в том же году компания Amazon анонсировала своего цифрового помощника-чатбота Alexa, а за ним последовал аналогичный продукт от Google, Маск начал предупреждать о том, что произойдет, когда эти системы станут умнее человека. Они могут превзойти нас и начать относиться к нам как к домашним животным. "Мне не нравится идея быть домашней кошкой", - сказал он. Лучший способ предотвратить проблему - обеспечить тесное взаимодействие и партнерство искусственного интеллекта с человеком. "Опасность возникает тогда, когда искусственный интеллект отделяется от человеческой воли".

Поэтому Маск начал организовывать серию ужинов с участием членов своей старой мафии PayPal, включая Тиля и Хоффмана, посвященных способам противодействия Google и обеспечения безопасности ИИ. Он даже обратился к президенту Обаме, который согласился на встречу один на один в мае 2015 года. Маск объяснил, в чем заключается риск, и предложил регулировать его. "Обама все понял", - говорит Маск. "Но я понял, что это не поднимется до уровня того, что он будет что-то делать".

Затем Маск обратился к Сэму Альтману, плотному предпринимателю, занимающемуся разработкой программного обеспечения, любителю спортивных автомобилей и любителю выживания, который за своей полированной внешностью обладал схожей с Маском интенсивностью. Альтман познакомился с Маском несколько лет назад и провел с ним три часа в беседе, пока они осматривали завод SpaceX. "Было забавно, что некоторые инженеры при виде приближающегося Илона разбегались или отворачивались", - рассказывает Альтман. "Они боялись его. Но я был поражен тем, насколько детально он разбирался в каждой маленькой детали ракеты".

На небольшом ужине в Пало-Альто Альтман и Маск решили стать соучредителями некоммерческой лаборатории по исследованию искусственного интеллекта, которую они назвали OpenAI. Она будет предоставлять программное обеспечение с открытым исходным кодом и попытается противостоять растущему доминированию Google в этой области. Тиль и Хоффман присоединились к Маску и внесли деньги. "Мы хотели иметь что-то вроде Linux-версии искусственного интеллекта, которая не контролировалась бы одним человеком или корпорацией", - говорит Маск. "Цель заключалась в том, чтобы повысить вероятность безопасного развития ИИ, полезного для человечества".

За ужином они обсуждали вопрос о том, что будет безопаснее: небольшое количество систем ИИ, контролируемых крупными корпорациями, или большое количество независимых систем? Они пришли к выводу, что лучше иметь большое количество конкурирующих систем, обеспечивающих сдержку и противовес друг другу. Как люди работают сообща, чтобы остановить злых актеров, так и большое количество независимых ИИ-ботов будет работать, чтобы остановить плохих ботов. По мнению Маска, именно это послужило причиной сделать OpenAI по-настоящему открытым, чтобы множество людей могли создавать системы на основе его исходного кода. "Я считаю, что лучшая защита от неправомерного использования ИИ - это дать возможность как можно большему числу людей иметь ИИ", - сказал он в то время корреспонденту Wired Стивену Леви.

Одна из целей, которую подробно обсуждали Маск и Альтман и которая станет актуальной в 2023 году после запуска компанией OpenAI чат-бота под названием ChatGPT, известна как "выравнивание ИИ". Она направлена на то, чтобы системы ИИ соответствовали целям и ценностям человека, подобно тому, как Айзек Азимов установил правила, чтобы роботы в