Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

правилами и фактическими наблюдениями: весь наблюдаемый мир будет сведен к сетям данных. Вот и решена одна из величайших загадок метафизики: как законы, выводимые, казалось бы, исключительно в теории, могут применяться к реальности? Почему в законах Ньютона соблюдается наша интуиция, говорящая о том, что два плюс два равно четырем? Благодаря ИИ сам этот вопрос исчезает, поскольку оба его термина сводятся к одной и той же субъективности, которая может ошибаться.

С точки зрения этой гипотезы ничто уже не может противостоять унификации наук, священному Граалю современных исследований. Маркус верит в то, что ИИ сможет разгадать все тайны Вселенной, если только мы «скормим» ему правильные данные. Вот только непонятно, для кого он будет их разгадывать, если нам все равно ничего не понять?..

Встреча с Маркусом заставила меня поставить под вопрос те немногие знания, оставшиеся из курса по естественным наукам. Почему мы вообще так привязаны к идее закона? Почему мы ощущаем эту неистребимую потребность в причинности? Быть может, дело в том, что мы хотим сохранить иллюзию, будто благодаря свободе воли сами являемся первопричиной? Если мы верим в то, что можем начать действие ex nihilo, за которое будем отвечать, возможно, нам нужно точно так же понимать, как любая ситуация проистекает из предшествующей. Но если, наоборот, мы соглашаемся с принципом турникета, если отказываемся от идеи собственного воления, почему тогда важно, что ИИ лишит нас возможности познавать мир? Если только его результаты верны…

Впрочем, мысль о том, что ИИ все чаще помогает нам принимать решения, нисколько не пугает Маркуса. Уравнения и свобода воли – две стороны одного и того же миража.

Маркус Бюлер в этом отношении не одинок. Еще десять лет назад главный редактор технологического журнала Wired Крис Андерсон заявил в своей громкой статье о «конце теории», которая устарела в силу наплыва данных. Однако этот энтузиазм разделяют далеко не все члены научного сообщества. Во многих научных статьях высказываются предостережения по поводу неумеренного применения корреляций в ущерб рассуждениям[108]. Так, Седрик Виллани, математик и лауреат медали Филдса, решительно отвергает представление о том, что данные смогут заменить работу по концептуализации. «Законы Ньютона – это еще куда ни шло, – говорит он мне, когда я задаю ему этот вопрос, – но машинное обучение никогда не сможет прийти к физике Эйнштейна». Нельзя подозревать Седрика Виллани в том, что он недооценивает ИИ, весьма содержательный доклад о котором ученый представил французскому правительству (мы рассмотрим его далее). Но он отказывается превращать его в альфу и омегу нового научного метода. Точно так же специалист по компьютерным наукам Кристиан Игель, которого я встретил в Университете Копенгагена, считает, что ИИ способен помогать астрономам, когда нужны лучшие предсказания, составляемые на основе анализа корреляций. Но такие предсказания делаются в ущерб объяснениям, предоставляемым классическими физическими моделями, которые по-прежнему играют ключевую роль в развитии научной теории[109], поэтому отдельные ученые сознательно отдают приоритет причинно-следственным формулам. Последние менее эффективны в ближайшей перспективе, но зато больше обещают в долгосрочной. Наконец, само представление о том, что корреляция на теоретическом уровне может заменить собой причинность, оспаривается такими специалистами по статистике, как Эммануэль Кандес из Стэнфорда. Он объясняет мне, что предсказания ИИ не опираются на достаточные «основания», а потому остаются фрагментарными (например, ИИ, который должен был определять, закрыты ли ставни окна на фотографии комнаты, обращает внимание на то, занята ли в ней кровать!).

Каковы бы ни были ограничения эмпирического метода, важным остается то, что самые ярые сторонники ИИ не доверяют причинности, которая внедряет в наблюдение человеческий разум. Гуманитарные науки не избежали этого спора. Так, Ян Лекун разволновался, когда в разговоре с ним я упомянул о споре Хомского и Пиаже об обучении языку: «Хомского надо выбросить на помойку», – сказал он. Вспомним, в чем заключался этот знаменитый спор 1973 года. Жан Пиаже, первооткрыватель детской психологии, защищал представление о том, что язык приобретается постепенно, благодаря взаимодействию с внешним миром, тогда как Ноам Хомский, патриарх лингвистики, отстаивал гипотезу врожденной «универсальной грамматики», являющейся продуктом структуры самого мозга и реализующейся во множестве языков, соответствующем числу народов. Ян Лекун, который всецело на стороне Пиаже, подчеркивает «композиционный» характер языка: смысл фразы рождается из взаимозависимости семантики и синтаксиса; иначе говоря, невозможно провести окончательное различие между значениями слов и отношениями, которые их объединяют. То есть нет априорной грамматики, которая бы упорядочивала слова – носители значений, а есть лишь значения, которые, отсылая друг к другу, создают грамматику ровно в той мере, в какой и подчиняются ей. Отвергая статический характер синтаксиса, композиционный подход внедряет в анализ языка ту статистику, которая ищет истинных корреляций. Легко понять, что концепция языка у Хомского соответствует традиционному ИИ (GOFAI), основанному на строгих синтаксических правилах, тогда как представление Пиаже больше соответствует машинному обучению, требующему выявлять повторяющиеся мотивы в отношениях данных. Поэтому нет ничего удивительного в том, какой лагерь выбрал Ян Лекун, который был одним из тех, кто прошел через пустыню медленного развития машинного обучения в 1990‐е годы, сегодня став одним из лучших в мире специалистов в этой области. Из спора Хомского и Пиаже вытекают важные практические следствия: Google Translate, один из самых амбициозных проектов в области машинного обучения, не занимается переносом строгих грамматических правил из одного языка в другой, а основан на миллионах существующих переводов, которые позволяют ему предлагать наиболее вероятные формулировки.

Какое все это имеет отношение к свободе воли? Обращаясь к этому вопросу, Ян Лекун подчеркивает предсказуемость различных форм поведения, которые он может легко наблюдать среди пользователей фейсбука. Но предположим, что применение слов, напротив, может включать определенный произвол. С эпистемологической точки зрения это должно восстановить потребность в причинности, а потому и поиске идеальной грамматики в стиле Хомского. В практическом плане внедрение подобного произвола приведет к нарушению установления корреляций, а это уже двойной урон. Понятно, почему Ян Лекун относится к языковым спорам с такой страстью. Композиционная логика позволяет машинному обучению развить весь свой потенциал, вписавшись в более общую гипотезу общества с высокой предсказуемостью.

Экономика без рынка

ИИ ставит под вопрос принцип рынка, в классическом варианте которого изменение цен должно позволять предложению подстраиваться под спрос. Это хорошо иллюстрирует сектор такси, если сравнивать работу Uber в Калифорнии и Didi в Пекине.

Начнем с Uber. Я не без труда добиваюсь встречи с их главным экономистом Джонатаном Холлом. Штаб-квартира Uber в Сан-Франциско находится в нескольких кварталах от района Тендерлойн с его ничем не прикрытой нищетой. Место вполне соответствует имиджу компании: оно шумное, хаотическое, энергичное. Из лифтов постоянно вываливаются посетители, которым