Машина эмоций - Марвин Мински

Но что это могут быть за «критически важные ингредиенты»? Многие философы задавались вопросами, как что-то состоящее исключительно из физических элементов может «на самом деле» чувствовать или думать.

Однако мне кажется, что загадки, которые видит Чалмерс, проистекают из того, что он попытался втиснуть разнообразные психические действия в такие слова-чемоданы, как «субъективные», «ощущения» и «сознание». Например, в разделе 4.2 мы показывали, как люди используют слово «сознание» для как минимум дюжины психических процессов, а в разделе 5.7 – как наши системы восприятия также включают в себя множество типов и уровней обработки. Однако наши процессы высокого уровня не могут отследить все промежуточные шаги восприятия – и эта нехватка осознанности приводит нас к мнению, что наши ощущения посещают нас каким-то простым, прямым и стремительным способом[150].

Например, каждый раз, когда что-то касается вашей руки, вам кажется, что вы это мгновенно чувствуете – и что это происходит немедленно, безо всякой сложной обработки информации. Похожим образом, когда вы смотрите на какой-то цвет и чувствуете, что это красный, вам кажется, что никаких промежуточных ступеней в вашем восприятии нет, и, соответственно, вам об этом нечего сказать. Безусловно, это хотя бы отчасти объясняет, почему так много философов делают вывод, что не может быть «механистического» объяснения, почему разные раздражители словно имеют для каждого определенные свойства: эти философы просто не старались как следует вообразить адекватные модели этих процессов. Вместо этого они в основном пытались доказать, что подобные модели вообще невозможны.

При этом, хотя нам сложно говорить о свойствах любого конкретного ощущения, гораздо легче сравнивать или противопоставлять два разных, но похожих типа ощущений. Например, мы можем сказать, что солнечный свет ярче света свечи, или что розовый – что-то среднее между красным и белым, или что прикосновение к щеке приходится на место между ухом и подбородком.

Однако это ничего не говорит о том, как «ощущается» каждое отдельное чувство. Это все равно что описывать расстояние между двумя городами на карте, ничего не говоря при этом об этих городах. Похожим образом, если бы я спросил, что для вас означает красный цвет, вы могли бы ответить, что первым делом подумали о розе, что, в свою очередь, напомнило вам о влюбленности, – и затем вы бы обнаружили, что продолжаете соотносить ваши ощущения с другими чувствами. Красный также может напомнить вам о крови – и это вызовет чувство страха или тревожности. Зеленый может вызвать ассоциации с пасторальными сценами, а синий – с небом или морем. Таким образом раздражители, кажущиеся такими простыми, могут вызвать множество других ментальных событий, таких как эти чувства и ассоциации.

Схожим образом, когда вы попытаетесь описать чувства, связанные с влюбленностью, или со страхом, или с созерцанием пасторали либо морской глади, вы вскоре обнаружите, что просто перечисляете другие вещи, о которых вам эти чувства напоминают. И затем, возможно, вы начнете подозревать, что мы вообще не можем по-настоящему описать, что представляет собой что-либо, мы можем описать только, на что оно похоже.

Какую полезную альтернативу можно предложить идее о том, что наше чувство «переживания» загадочно? Ну, если бы ваши высшие когнитивные уровни имели более полный доступ к низшим, то вы бы могли заменить утверждения вроде «Я испытываю ощущение, что вижу что-то красное» на более детальные описания переработки информации, задействованной в ощущениях, например:

Если бы мы могли делать подобные описания, загадка «субъективного переживания» просто исчезла бы, потому что у нас бы было достаточно ингредиентов, чтобы ответить на вопросы об этих процессах. Другими словами, мне кажется, что очевидная «прямота переживания» всего лишь иллюзия, которая проистекает из того, что наши высшие ментальные уровни имеют такой ограниченный доступ к системам, которые мы используем, чтобы распознавать, репрезентировать и реагировать на внутренние и внешние условия.

Я не хочу утверждать, что эта иллюзия обычно вредна или что нам следует бороться с этими ограничениями, потому что, как мы заметили в разделе 4.4, слишком большое количество подобной информации перегрузит разум. Однако немного такой терапии может пойти на пользу вышеупомянутым философам-дуалистам. К тому же в какой-то момент будущего нам придется принимать решения о том, в какой степени наши будущие машины с искусственным интеллектом должны быть снабжены способами инспектировать (и иметь возможность изменять) свои собственные системы, – или нам понадобится запретить к ним доступ.

Здравый смысл подсказал бы, что вы не можете испытывать боль, не зная об этом. Однако некоторые мыслители с этим не соглашаются: