Век самопознания. Поиски бессознательного в искусстве и науке с начала XX века до наших дней - Эрик Кандель

Важный шаг вперед в этой области был сделан к 2011 году, когда компания Ай-би-эм построила компьютер “Ватсон” (размером с комнату), способный понимать человеческую речь и отвечать на широкий круг вопросов. “Ватсон” принял участие в телевикторине Jeopardy! [“Своя игра”], где от участников требуются не только энциклопедические знания, но и способность понимать двусмысленные вопросы. Компьютер успешно справлялся со сложно построенными вопросами и извлечением из памяти ответов, причем делал это быстрее, чем два чемпиона викторины. Он столкнулся с трудностями лишь тогда, когда дело дошло до связывания неоднозначно сформулированных вопросов с данными в памяти. Способность справляться с неоднозначностью требует понимания тонкостей, а в этом человеческий мозг по-прежнему не знает себе равных.

Тем не менее, “Ватсон” и “Дип блю” поднимают интереснейший вопрос: думают ли сложные вычислительные системы в том психологически точном смысле, в каком думает человек, или просто выполняют исключительно сложные вычисления? Можно ли применять слово “думать” по отношению к машине, или же делать это означало бы смешивать психологическое явление с его компьютерной моделью?

На этот вопрос пока нет однозначного ответа. Философ Джон Серль из Калифорнийского университета в Беркли полагает, что компьютерную программу, какой бы “умной” она ни была, нельзя приравнивать к человеческому разуму. Он предложил интересный мысленный эксперимент “Китайская комната”, демонстрирующий разницу между мышлением компьютерной системы, такой как “Дип блю” или “Ватсон”, и человеческого мозга.

Представим себе комнату, в которой сидит человек. У него имеется список правил, позволяющих находить соответствия между последовательностями символов из одного набора и последовательностями символов из другого набора. В данном случае это записанные иероглифами предложения на китайском языке. Предположим, что человек в комнате не знает китайского. Подбор соответствий между последовательностями из двух наборов для него будет делом чисто формальным – в том смысле, что будет зависеть исключительно от формы символов, а не от их значений. Знание китайского языка от него и не требуется. Представим себе, что этот человек хорошо научился работать с такими последовательностями в соответствии с имеющимся у него списком правил, и всякий раз, когда в комнату передают очередное предложение на китайском, он вскоре выдает в ответ другое предложение, также на китайском. Для человека снаружи, владеющего китайским, символы, передаваемые в комнату, представляют собой вопросы, а получаемые оттуда символы – ответы. Ответы соответствуют вопросам так же хорошо, как если бы в комнате сидел знаток китайского, дающий ответы осмысленно. Но человек в комнате не знает по-китайски ни слова. В комнате происходит лишь обработка последовательностей символов на основании их формы, то есть синтаксиса. Для настоящего же понимания требуется семантика, то есть знание значений символов.

Теперь представим, что вместо человека в “китайской комнате” компьютер, запрограммированный на подбор ответов в соответствии с тем же списком. Серль утверждает, что от этого ничего не изменится. Компьютер, как и человек, будет обрабатывать последовательности символов, исходя из их синтаксиса. Компьютер точно так же не понимает китайского, как и человек в комнате. Именно так, по-видимому, работают такие компьютеры, как “Ватсон”. Хотя он и способен отвечать на широчайший круг вопросов (о политике и поэзии, науке и спорте, даже о том, как готовить спагетти карбонара), нельзя сказать, что он понимает ответы на эти вопросы, точно так же как нельзя сказать, что человек в “китайской комнате” понимает китайский. Хотя “Ватсон”, отвечая на вопросы, демонстрировал такое же поведение, как и соперники, люди понимали, что именно они говорят, а компьютер – нет.

Многие работающие в области искусственного интеллекта и некоторые специалисты по когнитивной психологии, придерживающиеся вычислительной теории психики, полагают, что нельзя провести четкую грань между мышлением и вычислительной обработкой информации. Они считают, что аргументы Серля против вычислительной теории психики основаны не на фактах, а лишь на ощущении, что когда мы понимаем то или иное предложение, мы не просто обрабатываем последовательность символов, а делаем нечто большее. Поскольку Серль не предъявил убедительных экспериментальных данных, опровергающих вычислительную теорию психики, оппоненты утверждают, что его выводы построены на интуиции, а они нередко небезупречны и просто ошибочны.

Но даже не опираясь на интуицию, можно указать между вычислительной деятельностью мозга и работой машин разительные отличия, которые, возможно, не позволяют машинам обрести интеллект, подобный человеческому. Магнус Карлсен (выдающийся норвежский шахматист, в возрасте 21 года игравший наравне с Гарри Каспаровым) утверждает, что компьютеры, играющие в шахматы, ничуть не обладают интуицией. Они настолько быстро оперируют своими огромными запасами памяти, что им не требуется уметь играть ни остроумно, ни красиво, чтобы выигрывать у людей. Они умеют учитывать варианты на 15 ходов вперед и не нуждаются ни в каких уловках. Самые творческие шахматисты, такие как Карлсен, напротив, полагаются на интуитивные суждения о возможном развитии партии и чувствуют происходящее на доске. Поэтому они часто делают не те ходы, которые сделал бы компьютер. В результате шахматистам, которые совершенствуются в стратегии, полагаясь на шахматные программы и базы данных, оказывается трудно играть против таких, как Карлсен: их ходы непросто предсказать.

Еще одно дело, которое с трудом дается компьютеру, – распознавание лиц. Паван Синха и его коллеги пишут:

Несмотря на массу усилий, потраченных на разработку компьютерных алгоритмов распознавания лиц, система, которую можно было бы успешно применять в нестрогих условиях, до сих пор не получена… Похоже, в данный момент единственная система, которая хорошо справляется с этими задачами, – зрительная система человеческого мозга[206].

Следует отметить, что человеческая система распознавания лиц пользуется не каким-либо одним исключительно сложным алгоритмом, а целым набором простых процессов. Эта стратегия выгодна в эволюционном плане: множеству простых параллельных процессов совершенствоваться проще, чем одному всеобъемлющему. Бессознательно отбирая наиболее эффективный в данных условиях процесс, мы умеем распознавать лица при разных обстоятельствах и делаем это гораздо эффективнее, чем мог бы позволить один исключительно точный алгоритм. Это одна из фундаментальных особенностей обработки зрительной информации, уже знакомая нам на примере множества признаков, по которым мы умеем оценивать расстояние до предметов и одним, и двумя глазами. Вероятно, она свойственна многим другим процессам. Вилейанур Рамачандран выразил эту мысль следующим образом: “Это как с двумя пьяными, пытающимися куда-то дойти: в одиночку ни один бы не справился, но поддерживая друг друга, они могут доплестись”[207].