Искусственный интеллект – надежды и опасения - Джон Брокман

Например, вы можете сказать: «Х больше 5». Это предикат. Также можно сказать: «Я хочу кусочек шоколада». Это тоже предикат. В нем присутствуют слова «Я хочу». Мы должны найти строгое символическое представление желаний, которые выражаются на естественном, человеческом языке.

В конце 1600-х годов Готфрид Лейбниц, Джон Уилкинс и другие мыслители заинтересовались, как они сами это называли, философскими языками, то есть полным, универсальным и символическим представлением знаний о мире[233]. Вот, к примеру, философский язык Джона Уилкинса, отражающий значимые для того времени концепции мироздания. Некоторые стороны человеческого бытия остались неизменными с 1600-х годов, некоторые радикально изменились. В языке Уилкинса много внимания уделяется смерти и различным формам человеческих страданий; в современной онтологии об этом размышляют намного меньше. Любопытно проследить, в чем современный философский язык отличается от философского языка середины 1600-х годов. Это мера нашего прогресса. Такие попытки формализации предпринимались неоднократно на протяжении человеческой истории. В математике, например, имеется фундаментальный труд Уайтхеда и Рассела «Principia Mathematica» (1910). До них к той же задаче подступались Готлоб Фреге и Джузеппе Пеано[234], но масштаб начинаний несопоставим. В конечном счете они ошибались в том, что именно, по их мнению, следовало формализовать: они считали, что нужно формализовывать некие процедуры математического доказательства, но выяснилось, что большинству людей это нисколько не интересно.

Применительно к современному аналогу теста Тьюринга возникает занятный вопрос. По-прежнему витает идея разговорного бота, о котором помышлял Тьюринг. Пока такой бот не реализован на практике, но непременно появится; вот только хотелось бы знать – для чего? Признаться, я привык спрашивать: «Зачем нам это нужно?», поскольку мне всегда казалось, что в данном случае в выигрыше окажется разве что сфера клиентского обслуживания, а последнюю я, увы, ценю не слишком высоко. Но служба поддержки клиентов, с которой вы пытаетесь взаимодействовать, как раз и является идеальной средой для внедрения разговорного языка.

Существенное различие между эпохой Тьюринга и нашим временем состоит в способе общения с компьютерами. Ранее вы печатали запрос, а машина печатала ответ. Сегодня она выводит информирующие экраны – например, когда вы хотите купить билет в кино. Чем взаимодействие с машиной отличается от взаимодействия с человеком? Прежде всего наличием визуального дисплея. Машина что-то спрашивает, вы нажимаете кнопку – и сразу видите результат. Скажем, пусть система WolframAlpha установлена внутри Сири; при наличии короткого ответа Сири даст вам этот короткий ответ. Но большинство людей тяготеет к визуализации, к инфографике и т. п. Это нечеловеческая форма общения, которая оказывается богаче традиционной устной или печатной человеческой коммуникации. Во взаимодействии человека с человеком мы обыкновенно больше полагаемся на речь, но в общении человека с компьютером располагаем гораздо более широкой полосой пропускания – визуальным каналом.

Многие из очевидных вариантов теста Тьюринга отпадают с появлением этого дополнительного канала связи. Например, вот задача, над которой мы работаем сейчас. Наш бот ведет беседу о составлении программ. Вы говорите: «Я хочу написать программу. Хочу, чтобы она делала то-то и то-то». Бот отвечает: «Программа написана. Она делает то-то. Это то, что вам нужно?» И т. д. Несколько неожиданный бот, верно? Проектирование таких систем – увлекательная задача, поскольку им приходится моделировать человека, когда они пытаются что-то вам объяснить. Они должны знать, что приводит человека в замешательство.

Мне долго было трудно понять, в чем смысл обычного теста Тьюринга. Какая тут скрыта мотивация? Ну да, для развлечения можно создать простенький чат-бот, с которым люди могли бы общаться. Это следующий шаг. Нынешний этап глубинного обучения, особенно в рекуррентных нейронных сетях, позволяет достаточно удачно моделировать человеческие речь и письмо. Мы можем напечатать, скажем, «Как самочувствие?» – и большую часть времени машина ответит нам осознанно. Но я хочу выяснить, возможно ли автоматизировать ответы на электронные письма. Мне известно, что ответом будет «Нет». Для меня хорошим вариантом теста Тьюринга будет умение бота отвечать на значительную часть писем. Это непростая задача. Ведь ответы нужно узнавать у людей, которые направляли письма мне. Быть может, я слегка забегаю вперед, потому что собираю данные о себе вот уже двадцать пять лет. У меня хранятся все электронные письма за двадцать пять лет, и каждое нажатие клавиши зафиксировано в промежутке двадцати лет. В общем, я, наверное, смогу обучить аватару ИИ, который станет отвечать на почту за меня – не исключено, что лучше, чем я сам.

* * *

Люди беспокоятся о том, что ИИ восторжествует над человеком. Думаю, намного раньше произойдет кое-что весьма забавное, в некотором смысле. ИИ научится угадывать наши намерения и преуспеет в прогнозировании. Я сообщаю навигатору в своей машине, куда хочу поехать. При этом я понятия не имею, где нахожусь, и слепо полагаюсь на GPS. Мои дети любят вспоминать, как однажды – это была одна из первых версий GPS, которая лишь командовала «Поверни сюда, поверни туда», – мы очутились на одном из пирсов Бостонской гавани.

Еще важнее то, что ИИ будет знать вашу историю, будет «понимать», что, заказывая ужин по интернету, вы, вероятно, захотите того-то и того-то, а когда пишете электронное письмо какому-то человеку, вы собираетесь обсудить с ним такие-то темы. Все чаще и чаще ИИ станет предлагать, что именно мы должны делать, и подозреваю, что большинство людей будут соглашаться. Советы же хороши, всяко лучше тех, какие дали бы мы сами.

Что касается сценария с мировым господством ИИ, технология позволяет творить жуткие злодеяния – и действовать ради всеобщего блага. Отдельные люди наверняка попытаются применить технологии во зло, а другие постараются использовать их во благо. В современных технологиях мне нравится то уравнивание, которое они обеспечили. Раньше я гордился тем, что у меня компьютер лучше, чем у всех моих знакомых, а теперь у нас одинаковые компьютеры. У нас одни и те же смартфоны, плюс аналогичные технологии может использовать значительная часть из семи миллиардов человек на планете. Уже нет такого, что королевская технология сильно превосходит прочие. Это важный шаг вперед.

Великой границей пятьсот лет назад была грамотность. Сегодня она пролегает в программировании. Нынешнее программирование как таковое устареет довольно скоро. Например, больше никто не изучает ассемблеры, поскольку компьютеры лучше людей справляются с ассемблерами; лишь небольшая группа должна знать подробности компилирования ассемблера. Многое из того, что делают сегодня армии программистов, становится такой же обыденностью. У нас нет веских причин писать код Java или код JavaScript. Мы хотим автоматизировать процесс программирования таким образом, чтобы устранить главное в нем из человеческих забот и передоверить машине, автоматизировать как можно сильнее. В итоге уравнивание продолжится, и это кажется мне показательным.