Машина эмоций - Марвин Мински

Наши культурные традиции являются основными источниками знаний и навыков каждого гражданина, поскольку ни одному человеку не под силу в одиночку сгенерировать столько идей, сколько один ребенок заучивает к четырехлетнему возрасту.

Подумайте, например, сколько знаний скрывается практически в каждом слове языка; если вы прислушаетесь к чьей угодно речи, то услышите множество полезных аналогий. Мы говорим о времени так, будто оно похоже на пространство, – как, например, слушатель, который задается вопросом, когда оратор доберется до конца своей речи. Кроме того, мы часто думаем о времени как о жидкости, которая «течет», а дружбу интерпретируем в терминах пространства: «Кэрол и Джоан очень близки». Весь наш язык пронизан пересечением способов выражения – и иногда мы называем их метафорами [Лакофф, 1980].

Некоторые метафоры кажутся довольно заезженными, например, когда мы говорим, что «предпримем шаги», чтобы способствовать или помешать какому-то событию. Другие заслуживают большего внимания – например, когда ученый думает о жидкости как о системе сообщающихся сосудов. Мы отмечаем такие аналогии, когда они играют неожиданно эффективную роль, но нам редко приходит в голову, как часто мы используем те же методы в процессе житейского мышления.

Некоторые аналогии имеют довольно очевидные корни – например, те, что получаются, когда мы отбрасываем достаточное количество деталей, чтобы найти сходство в двух разных предметах. Более сложные метафоры представляют вещи так, как если бы они существовали в других плоскостях, в которых мы можем использовать другие знакомые навыки. Я подозреваю, что большая часть наших житейских знаний воплощена в виде метафор в структурах, которые глава шестая называет паналогиями.

Где же мы берем эти драгоценные паналогии? Подозреваю, к некоторым из них (например, тем самым аналогиям между пространством и временем) мы фактически предрасположены с рождения, потому что между определенными областями нашего мозга существуют генетические связи, так что нам остается только репрезентировать разные плоскости идей как имеющие сходные свойства. Однако в редких случаях отдельные люди обнаруживают новый способ описания, репрезентации или формулировки, которые настолько полезны и просты в использовании, что распространяются среди всего сообщества, в котором существует этот человек. Естественно, нам хотелось бы знать, как совершаются подобные продуктивные открытия, но многим из этих редких случаев, возможно, никогда не найдется объяснения – потому что, подобно генетической мутации, открытию нужно произойти лишь раз, а затем оно разносится от мозга к мозгу. Однако иные распространенные аналогии могут быть настолько «естественными» и неизбежными, что почти каждый ребенок самостоятельно изобретет их для себя без какой-либо помощи.

Подобная гибкость ума в сочетании с уникальной способностью к выражению своих мыслей позволила нашим сообществам справляться с огромным диапазоном новых ситуаций. В предыдущих главах подробно рассматривались причины человеческой находчивости: у каждого из наших процессов есть недостатки, но мы обычно умеем найти альтернативы.

Тем не менее в нашем разуме все же встречаются баги, ведь в процессе эволюции мозга каждое конкретное усовершенствование могло повлечь за собой возникновение новых видов ошибок. Например, из-за своих изумительных способностей к созданию абстракций человек может не заметить крайне важных исключений. В наших вместительных системах памяти наверняка накапливается немало неверной или двусмысленной информации. В детстве наши схемы научения часто заставляют нас верить в то, во что верят наши импраймеры. Наше воображение обладает такой силой, что мы порой путаем реальность со своими фантазиями; тогда, поставив себе недостижимые цели, мы ввязываемся в долгие, но бесполезные поиски – или настолько боимся признать неудачу или потерю, что пытаемся придумать способ вернуться в прошлое.

Избежать всех этих ошибок невозможно, потому что, как знает каждый инженер, большинство изменений в сложной системе чревато новыми проблемами, которые проявятся тогда, пока система окажется в непривычной среде. Кроме того, каждый человеческий мозг уникален, потому что формируется парами генов, случайным образом унаследованных от одного из родителей; более того, на ранней стадии развития этого мозга многие более мелкие детали зависят от других случайностей. Как подобные машины могут нормально функционировать, несмотря на такое количество переменных? Чтобы объяснить это, некоторые мыслители заявляли, что мозг наверняка построен по «холистическим» принципам, согласно которым каждый фрагмент процесса или знания «глобально распределен» (каким-то неизвестным образом), так что, даже если система потеряет какие-то части, ее поведение не изменится.

Однако аргументы, приведенные в этой книге, показывают, что нам вовсе не нужны подобные магические трюки, потому что к любой задаче у нас есть несколько подходов. Кроме того, имеет смысл предположить, что многие части нашего мозга развивались как противовесы для исправления (или подавления) влияния дефектов в других частях. Это означает, что нашим ученым будет трудно обнаружить, как человеческому мозгу удается так успешно функционировать и почему он развивался так, а не иначе. Я подозреваю, что мы не поймем этого, пока не накопим побольше опыта в создании таких систем. Только тогда мы достаточно узнаем о том, с какими сбоями, вероятнее всего, столкнемся и как держать их под контролем.

В ближайшие десятилетия многие исследователи попытаются создать более гибкие и находчивые машины, но каждая система, которую мы построим, будет удивлять нас новыми недостатками – пока эти машины не станут достаточно умными, чтобы скрывать свои недостатки от нас. Время от времени мы сможем предсказывать конкретные ошибки в этих проектах, и тогда у нас получится их исправлять. Но всякий раз, когда нам это не удастся, останется только добавлять больше сдержек и противовесов, например новых критиков и цензоров. Ибо мы никогда не найдем единого надежного способа выбирать (например) между преимуществами немедленных действий и преимуществами осторожного, рефлексивного мышления. Итак, что бы мы ни делали, можно не сомневаться, что путь к «постчеловеческому разуму» будет тернист.

В этой книге изложено несколько новых теорий психической деятельности человека. В некотором роде ее можно назвать продолжением моей предыдущей книги «Общество разума», которая предлагала рассмотреть работу мышления как совокупности относительно самостоятельных процессов. «Машина эмоций» же, напротив, в основном рассказывает о наших самых высокоуровневых и рефлексивных мыслях, так что между предметами двух этих книг не так уж много пересечений. Чтобы понять любой сложный феномен, необходимо взглянуть на него с нескольких точек зрения – и эта книга пытается описать разум так, как если бы его можно было увидеть «изнутри», – а также предлагает методы, которые могут быть полезны при разработке «думающих» машин.