Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей - Мартин Форд

М. Ф.: Cyc – это проект, в котором люди вручную вводят логические правила?

Р. К.: Да. Точных цифр я не знаю, но количество правил там огромно. В одном из режимов можно распечатывать рассуждения, обосновывающие поведение. Обычно они занимают несколько страниц, и уследить за их ходом сложно. Это хороший проект, но человеческий интеллект формируется как-то по-другому. Вместо каскадов правил люди используют самоорганизующуюся иерархию.

Преимуществом коннекционистского подхода я считаю и то, что он прозрачен. Можно посмотреть на модули в иерархии и увидеть, на какие решения влияет каждый из них. А состоящие из 100 слоев нейронные сети действуют как большой «черный ящик». Понять ход происходящих внутри рассуждений крайне сложно, хотя некоторые пытались.

М. Ф.: В человеческом мозге с рождения присутствуют определенные структуры, например, позволяющие новорожденным распознавать лица.

Р. К.: У нас есть генераторы функций. Веретенообразная извилина умеет вычислять соотношения: длину носа или расстояние между глазами. Существует примерно дюжина простых функций, которые мы можем сгенерировать на основе изображения лица, а затем распознать то же самое лицо на новом изображении, даже если какие-то детали изменились. Другие функции аналогичным образом работают с аудиоинформацией, то есть вычисляют определенные отношения и распознают частичные обертоны. Затем эти функции поступают в коннекционистскую иерархическую систему.

М. Ф.: Расскажите, пожалуйста, о перспективах создания сильного ИИ или интеллекта уровня человека.

Р. К.: Это синонимы, но термин «сильный ИИ» мне не нравится. Разработки ИИ с самого начала ставили целью достижение человеческого уровня интеллекта. Но постепенно начали формироваться отдельные области, исчезла концентрация на сильном ИИ. Но я считаю, что, решая отдельные задачи, мы постепенно дойдем и до него.

Не стоит забывать и о разнице в уровне навыков при выполнении одной и той же задачи. Насколько хорошо люди играют в го? Как только компьютер достигает хотя бы нижнего уровня способностей человека, он очень быстро может превзойти способности чемпиона.

Компьютеры пока не могут хорошо работать с несколькими цепочками рассуждений, делая выводы из нескольких утверждений и одновременно применяя свои знания об окружающем мире. Например, в тесте на знание языка для третьего класса компьютер не понимал, что у мальчика грязные ботинки из-за ходьбы по лужам, и следы на полу рассердят его мать. ИИ не обладает тем опытом, который делает для нас многие вещи очевидными.

Сейчас в ряде языковых тестов компьютеры демонстрируют среднестатистический уровень понимания взрослого человека. И быстрого прогресса в этой области не будет, потому что сначала нужно решить более фундаментальные проблемы. Но даже достигнутый уровень впечатляет, потому что для понимания языка требуется и высокий интеллект, и умение распознавать переносные смыслы, и иерархическое мышление. Подводя итог, скажу, что да, используя коннекционистские подходы, мы делаем успехи.

Моя рабочая группа нацелена на прохождение теста Тьюринга. Научить компьютеры учитывать выводы и подтексты различных концепций, то есть вести несколько цепочек рассуждений одновременно – это первоочередная задача. Именно тут чат-боты обычно терпят неудачу. Если я скажу, что переживаю из-за школьных оценок дочери, ни один человек не спросит через три хода, есть ли у меня дети. А чат-боты задают такие вопросы. Но если мы научим их понимать все оттенки языка, виртуальные собеседники смогут извлекать все нужные сведения из доступных в интернете книг и документов. У нас уже есть идеи, как реализовать подобные вещи.

М. Ф.: Долгое время вы утверждали, что сильный ИИ будет создан к 2029 г. Вы до сих пор так считаете?

Р. К.: В книге The Age of Intelligent Machines («Эпоха мыслящих машин», 1989 г.) я писал о 2029 г. плюс-минус 10 лет. В 1999 г. я опубликовал книгу The Age of Spiritual Machines («Эпоха чувствующих машин»), в которой четче обозначил 2029 г. По этому поводу в Стэнфорде прошла конференция экспертов по ИИ. В основном все пришли к мнению, что на это потребуются сотни лет, а примерно четверть присутствовавших считали, что этого не произойдет никогда.

В 2006 г. в Дартмутском колледже состоялась конференция, посвященная 50-летию Дартмутского семинара. Проведенный там опрос показал, что создание сильного ИИ ожидается где-то лет через пятьдесят. В 2018 г. основная масса специалистов называла срок в 20–30 лет. Получается, что я просто более оптимистичен.

М. Ф.: До названной вами даты осталось всего 11 лет. Это совсем немного.

Р. К.: Прогресс идет по экспоненте. Мы уже добились значительных успехов в области беспилотных автомобилей, понимании языка, игре го и во множестве других сфер. Аппаратное и программное обеспечение развиваются в быстром темпе, причем первое – активнее.

М. Ф.: Мнение, что потребуется более ста лет, означает, что люди считают прогресс линейным?

Р. К.: Во-первых, они мыслят линейно, а во-вторых, подвержены явлению, которое я называю пессимизмом инженера. Они так сосредоточены на одной сложной проблеме, что начинают считать себя полностью ответственными за ее решение и отталкиваются исключительно от собственных темпов работы. Учитывать темпы прогресса в области в целом и то, как идеи взаимодействуют друг с другом, нужно уметь.

Для проекта по определению генома человека 1 % данных собирали семь лет. Скептики тогда называли проект безнадежным, ведь при таких темпах на его реализацию потребовалось бы 700 лет. Я же считал, что работа почти закончена. Потому что каждый год темп ускорялся в два раза, и проект был завершен семь лет спустя.

Независимо от достижений или уровня интеллекта обычный пользователь или специалист могут держаться за линейное мышление.

М. Ф.: Но согласитесь, что речь идет не только об экспоненциальном росте скорости вычислений или объема памяти. Нужны концептуальные прорывы, в результате которых компьютеры получат способность, например, обучаться в реальном времени или на неструктурированных данных, как это делают люди.

Р. К.: Программное обеспечение также экспоненциально прогрессирует, несмотря на не поддающиеся прогнозированию вещи, которые вы упомянули. Существует взаимообогащение, благодаря которому после достижения некоторого уровня производительности появляются идеи для движения дальше.

Научно-экспертный совет администрации Обамы исследовал этот вопрос. Они взяли дюжину классических инженерных и технических проблем и изучили, насколько прогресс связан с оборудованием. В течение предыдущих 10 лет это соотношение, как правило, составляло примерно тысячу к одному. Значит, показатель «цена/производительность» удваивался ежегодно. Ситуация с программным обеспечением варьировалась, но в каждом случае показатель для него был больше, чем для аппаратного обеспечения. Развитие программного обеспечения происходит нелинейно; это геометрическая прогрессия. А для оценки прогресса в целом нужно перемножить показатели прогресса в областях аппаратного и программного обеспечения.