Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта - Макс Тегмарк

На следующей неделе тот же тур привел меня в Лондон. Поскольку будущее искусственного интеллекта владело моим сознанием, я связался с Демисом Хассабисом, который любезно пригласил меня посетить штаб-квартиру DeepMind. Я был потрясен, увидев, насколько они выросли с того времени, как посещали меня в MIT двумя годами раньше. Google только что купил их за 650 миллионов долларов, и, оценивая впечатляющий интеллектуальный пейзаж их офиса, наполненного самыми блестящими умами, которые устремились к дерзкой цели Хассабиса «разрешить задачу разума», я преисполнился висцеральным предчувствием реально возможного успеха.

Следующим вечером я говорил со своим другом Яаном Таллином по Skype, созданному при его участии. Я объяснял ему задачи FLI, а час спустя он решил дать нам шанс, вкладывая в наш фонд по 100 000 долларов ежегодно! Ничто не трогает меня больше, чем доверие, оказываемое мне в пределах, которых я, как мне кажется, не заслужил. И мне было особенно приятно, когда год спустя, на конференции в Пуэрто-Рико, о которой шла речь в главе 1, он пошутил, что никогда еще не делал таких удачных инвестиций.

Следующий день мой издатель оставил свободным, и я решил посвятить его посещению Лондонского музея науки. Будучи так долго одержим идеей прошлого и будущего разума, я вдруг оказался посреди физических иллюстраций своих мыслей. Они собрали фантастическую коллекцию, свидетельствующую о росте нашего знания, от паровоза «Ракета» Роберта Стефенсона до автомобиля Форд-Т, копии в натуральную величину лунного посадочного модуля Аполлона‐11 и компьютеров — от разностной машины Чарльза Бэббиджа до современных моделей. Здесь были представлены также эксперименты, посвященные выяснению природы разума: и реплика опыта Гальвани с лягушачьими лапками, и электроэнцефалограф, и оборудование для функциональной магнитно-резонансной томографии.

Рис. 9.1

Наша конференция в Асиломаре стала сиквелом пуэрто-риканской. Она проходила в январе 2017 года и собрала вместе многих исследователей искусственного интеллекта и представителей других, смежных с этой, исследовательских областей. В верхнем ряду стоят слева направо: Патрик Лин, Дэниел Вельд, Эриел Конн, Нэнси Чан, Том Митчел, Рэй Курцвейл, Дэниел Дьюи, Маргарет Боден, Питер Норвиг, Ник Хэй, Моше Варди, Скотт Зискинд, Ник Бострём, Франческа Росси, Шейн Легг, Мануэла Велозо, Дэвид Марбл, Катья Грейс, Ираклий Беридзе, Марти Тененбаум, Жиль Пратт, Мартин Рис, Джошуа Грин, Мэтт Шэрер, Энджела Кейн, Амара Анхелика, Джефф Мор, Мустафа Сулейман, Стив Омохундро, Кейт Кроуфорд, Виталик Бутерин, Ютака Мацуо, Стефано Эрмон, Майкл Веллман, Бас Стойнебринк, Вендель Валлах, Аллен Дафо, Тоби Орд, Томас Диттерих, Дэниел Канеман, Дарио Амодей, Эрик Дрекслер, Томазо Поджо, Эрик Шмидт, Педро Ортега, Дэвил Лик, Шон О’х Эйгертейг, Оувейн Эванс, Яан Таллин, Анка Драган, Шон Легассик, Тоби Уолш, Питер Асаро, Кей Фирт-Баттерфилд, Филип Сабеш, Пол Меройа, Барт Зельман, Такер Дэви,? Джейкоб Стейнхардт, Моше Лукс, Джош Тененбаум, Том Грубер, Эндрю Ын, Карэм Аюб, Крейг Кэлхун, Перси Лян, Хелен Тонер, Дэвид Чалмерс, Ричард Саттон, Клаудиа Пассос-Феррейра, Янош Крамар, Уильям Макаскил, Элиезер Юдковски, Брайан Цибарт, Хью Прайс, Карл Шульман, Нил Лоренс, Ричард Маллах, Юрген Шмидхубер, Дилип Джордж, Джонатан Ротберг, Ноа Ротберг; В переднем ряду: Энтони Агирре, Соня Закс, Лукас Перри, Джеффри Закс, Винцент Коницер, Стив Гуз, Виктория Краковна, Оуэн Коттон-Барратт, Даниела Рус, Дилан Хадфилд-Менель, Верити Хардинг, Шивон Зилис, Лоран Орсо, Рамана Кумар, Нейт Соареш, Эндрю Макафи, Джек Кларк, Анна Саламон, Лун Оуян, Эндрю Крич, Пол Кристиано, Иошуа Бенджо, Дэвид Сэнфорд, Катрин Олссон, Джессика Тэйлор, Мартина Кунц, Кристинн Ториссон, Стюарт Армстронг, Янн Лекюн, Александр Тамас, Роман Ямпольский, Марин Солачич, Лоуренс Краусс, Стюарт Рассел, Эрик Бриньоулфссон, Райан Кало, Сяолань Сюэ, Мейя Чита-Тегмарк, Кент Уокер, Хизер Рофф, Мередит Уиттейкер, Макс Тегмарк, Адриан Веллер, Хосе Эрнандес-Оральо, Эндрю Майнард, Джон Херинг, Абрам Демски, Николас Берггруен, Грегори Боннет, Сэм Харрис, Тим Хван, Эндрю Снайдер-Бити, Марта Халина, Себастьян Фаркар, Стивен Кейв, Ян Лейке, Таша Мак-Коли, Джозеф Гордон-Левитт.

Позже также прибыли: Гуру Банавар, Демис Хассабис, Рао Кабхампати, Илон Маск, Ларри Пейдж, Энтони Ромеро.

Я очень редко плачу, но, выходя из музея, я не мог сдержаться, и уже в метро, двигаясь по туннелю, полному пешеходов, к станции Южный Кенсингтон, я не мог остановиться. Мимо шли люди, спешившие по своим делам, в блаженном неведении о том, чем были наполнены мои мысли. Сначала мы, люди, обнаружили, как можно скопировать некоторые естественные процессы при помощи машин, создавая свой собственный ветер и молнии и свою собственную механическую лошадиную силу. Постепенно мы начали понимать, что наши тела — это тоже машины. А потом открытие нервных клеток положило начало размыванию грани между телом и разумом. Тогда мы начали строить машины, которые могли бы превзойти нас не только по части мускулатуры, но и по части разума. И поэтому параллельно с постижением собственной природы мы неизбежно устареваем? В этом есть что-то, наполненное поэзией трагедии.

Эта мысль пугала меня, но в то же время укрепляла в стремлении следовать своему новогоднему обету. Я чувствовал, что в нашей команде не хватает еще одного члена, который мог бы возглавить компанию волонтеров-идеалистов. Логичным образом выбор пал на Викторию Краковну, блестящую магистрантку из Гарварда, только что получившую серебряную медаль на Международной олимпиаде по математике и основавшую Цитадель, которая объединила дюжину юных идеалистов, мечтающих играть более важную роль не только в своей собственной жизни, но и в жизни всего мира. Мы пригласили ее к себе пять дней спустя и рассказали о наших планах. И прежде, чем наши суши пришли к финишу, FLI был рожден.

Рождение института было ознаменовано началом удивительного приключения, которое продолжается до сих пор. Как уже рассказывалось в главе 1, мы стали регулярно собирать у себя дома по несколько десятков идеалистически настроенных студентов, профессоров и других мыслящих людей из числа наших соседей. Лучшие идеи становились проектами — первым среди них была та самом колонка об искусственном интеллекте, написанная вместе со Стивеном Хокингом, Стюартом Расселом и Фрэнком Вильчеком, о которой я рассказал в главе 1 и которая помогла разжечь публичные дебаты. Параллельно с первыми шагами, необходимыми при создании новой организации (регистрация, найм консультантов и запуск веб-сайта), мы провели веселую презентацию, посвященную рождению института, в переполненной аудитории MIT, в ходе которой Алан Алда побеседовал о технологиях будущего с ведущими экспертами.

Рис. 9.2

Яан Таллин, Энтони Агирре, ваш покорный слуга, Мейя Чита-Тегмар и Виктория Краковна отмечают создание FLI 23 мая 2014 года.