Игра в имитацию. О шифрах, кодах и искусственном интеллекте - Алан Тьюринг

class="p1">«…Я полагаю, что к концу столетия употребление слов и общее мнение образованной публики изменятся настолько, что можно будет говорить о машинном мышлении, не вызывая возражений».

Можно сказать, что это пророчество Тьюринга осуществилось сегодня среди пользователей компьютеров. В формулировках технических требований и в диагностике мы встречаемся даже с языком, выражающим сознательность. Следующий диалог заимствован в сокращенном виде из популярного английского компьютерного журнала What Palmtop and Handheld PC за июнь 2000 года. Я подчеркнул некоторые слова, поместив их в квадратные скобки, чтобы привлечь внимание к их антропоморфным коннотациям цели, осознания и восприятия.

ДЕФЕКТ: Недавно я приобрел компьютер Palm V с портативной клавиатурой. Однако каждый раз, когда я подключаю Palm V к клавиатуре, он [пытается] HotSinc через прямую последовательную связь. Если я отменяю его попытку HotSinc, перехожу в MemoPad и пытаюсь печатать, то всякий раз, когда я нажимаю клавишу, он [стремится] HotSinc. Что я делаю неправильно?

ЛЕЧЕНИЕ: Самое логичное решение состоит в том, что ваш Palm V [не уверен] в наличии клавиатуры. Вам надо заново инсталлировать драйверы, поставляемые с клавиатурой, и убедиться, что она подключена. Тогда ваш Palm V перестанет [пытаться] HotSinc с клавиатурой и [признает] ее полноправным устройством.

Предсказание Тьюринга было сделано задолго до повседневного использования компьютеров и является еще одним свидетельством его почти сверхъестественной способности предвидеть отдаленное будущее.

Современная практика программирования (как и медицинская практика) считает достаточной, если систему можно заставить вести себя, как если бы она обладала сознанием. Несколько лет назад можно было встретить в Интернете честолюбивое заявление такого рода:

…В предвидении таких изменений группа Интерфейса пользователей в компании Microsoft Research разрабатывает интерфейс, играющий роль помощника… Этот проект, который мы называем «Персона», будет пытаться создать иллюзию находящегося в компьютере сознательного существа.

То же происходит и в более широком плане. Философия, рассуждающая о том, что составляет «подлинное» сознание, уступает место техническим и социальным потребностям. Сегодняшние проекты, подобные проекту «Персона», сталкиваются с крайне трудной задачей, близкой к самой сущности искусственного интеллекта. Поэтому уместно рассмотреть здесь принадлежащий самому Тьюрингу радикальный план осуществления интеллекта человеческого уровня. Его предложение «машины-ребенка» должно было послужить указанием, как можно в действительности выполнить эту задачу, казавшуюся недоступной при других подходах. К сожалению, он запрятал это предложение в раздел под названием «Обучающиеся машины», седьмой и последний в той же работе в «Mind» 1950 года. Сообщество исследователей искусственного интеллекта в целом и ученые вообще упустили из виду его тщательную аргументацию. Она начинается с того, что он отбрасывает как безнадежный казавшийся неизбежным метод, а именно метод непосредственного программирования в машине обширного фактического, относительного и причинного знания, какое понадобилось бы для этой цели.

Безнадежность ручной работы

Тьюринг воспользовался оптимистическим предположением о памяти в тысячу мегабит, чтобы получить нижнюю оценку ресурсов, необходимых для ее заполнения при явном программировании.

«При моем нынешнем темпе работы – писал он, – я выдаю в течение дня около тысячи символов программы. Так что эту работу могут выполнить примерно шестьдесят человек, непрерывно работающих в течение пятидесяти лет, если ничего не выбрасывать в мусорную корзину. Было бы желательно найти более приемлемый метод».

В 1980-е годы, по крайней мере, две попытки построить универсальные системы на человеческом уровне дорого заплатили за пренебрежение к «более приемлемым методам» Тьюринга. Это был «Проект пятого поколения» отделения MITI японского правительства и проект «CYC» американской корпорации MCC. Оба проекта стремились создать огромные базы данных, которые должны были содержать большую часть того, что люди называют здравым смыслом, и обладать способностью сообщать на естественном языке свои знания и свои выводы.

Оба проекта использовали в качестве единственного средства приобретения знаний непосредственное программирование. Оба проекта, щедро и систематически финансируемые в течение почти десяти лет, окончились без существенного продвижения в своих первоначальных целях.

Науки о познании и о мозге обнаружили, что даже в ограниченных областях, где знание может быть запрограммировано в приемлемое время, есть другая причина неосуществимости ручной работы. Неспособность программиста запрограммировать его знания о том, как просмотреть фрагмент стихотворения, как распознать человеческое лицо, как плавать или как завязать рифовый узел, не имеет никакого отношения к его неспособности записать какую-нибудь программу в приемлемое время. Как продемонстрировал и разъяснил Мичи в 1995 году, знание и мышление решающим образом основаны на «процедурной» памяти, которая, вообще говоря, не доступна интроспекции. Между тем явное программирование многих повседневных навыков требует доступа к содержанию этой памяти. Таким образом, возможность ручного программирования всего необходимого знания для «машины-ребенка» становится невозможной вследствие качественных ограничений, прибавляющихся к недостаточности ресурсов, обнаруженной вычислениями Тьюринга.

«Более приемлемый» метод Тьюринга

Тьюринг вводит следующее правило для массового приобретения знаний – сознательного или бессознательного:

При попытках имитации разума взрослого человека мы неизбежно должны подумать о процессе возникновения этого состояния разума. Здесь можно отметить три компоненты:

1) исходное состояние разума, например при рождении;

2) обучение, которому он был подвергнут;

3) другие воздействия, которым он был подвергнут, не относящиеся к обучению.

Вместо того чтобы пытаться разработать программу, имитирующую разум взрослого человека, почему не попытаться составить программу, моделирующую разум ребенка? Если подвергнуть эту последнюю надлежащему курсу обучения, то можно было бы получить взрослый разум.

Чтобы запрограммировать в машине-ребенке способность быть воспитуемой до такого уровня, на котором ее можно было бы передать учителям детского сада, очевидным образом должны быть выполнены следующие минимальные требования:

1. Чтобы система понимала некоторое приближение к естественному языку и отвечала на языке, понятном учителю.

2. Чтобы она была способна обучаться на примерах, доставляемых учителем («обучение под руководством»).

3. Чтобы она была способна обучаться путем собственного исследования, методом проб и ошибок («обучение без руководства»).

Современное развитие машинного обучения (пункты 2 и 3 предыдущего перечня) и построение пишущих устройств для развития разговорных навыков (пункт 1) показывают, что Тьюринг был на правильном пути. Но прогресс в развитии эффективной машины-ребенка будет медленным, поскольку предположения, высказанные в той же статье в «Mind» относительно мозга новорожденного, могут оказаться крайне наивными:

«Можно предположить, что мозг ребенка – это нечто вроде блокнота, какие покупают в магазине канцелярских товаров, – очень мало механизмов, но множество свободных листов… Мы надеемся, что в детском мозге такой простой механизм, что можно будет легко запрограммировать нечто вроде него».

Как показывают современные исследования, дело обстоит совсем иначе: мозг новорожденного человека и даже мозг эмбриона до рождения снабжен сложно взаимодействующими способностями, а также встроенными программами их дальнейшего развития. Надежды на легкое программирование «чего-то в этом роде» приходится, к сожалению, оставить. Следствия этого несколько обескураживают в отношении времени разработки программы, которая могла бы