Homo Deus. Краткая история будущего - Юваль Ной Харари

А действительно ли мы уверены, что у компьютеров нет желаний или ощущений? И если у них нет ничего подобного сейчас, не станут ли они со временем достаточно сложными, чтобы развить в себе сознание? Если бы такое случилось, как бы мы могли в этом убедиться? Когда компьютеры заменят наших психиатра, учителя и водителя автобуса, как мы сможем понять, имеются у них чувства или они просто сборище не имеющих разума алгоритмов?

Что касается людей, сегодня мы в состоянии отличать сознательные ментальные переживания от бессознательной активности мозга. Хотя мы пока далеки от постижения тайны сознания, ученым удалось выявить некоторые его электрохимические признаки. Начали они с допущения, что человеку, который говорит, что осознает происходящее, можно верить на слово. Основываясь на этом допущении, ученые сумели выделить специфические схемы мозговой активности, которые регистрируются всякий раз, как человек подтверждает, что он в полном сознании, но никогда – при отсутствии сознания.

Это, например, позволило врачам точно определять, в коме находится разбитый инсультом больной или только перестал владеть телом и речью. Если при обследовании его мозга обнаруживаются признаки мыслительной активности, то он, скорее всего, в сознании, хотя и не в силах двигаться и говорить. Врачи даже научились общаться с подобными больными при помощи МРТ. Задавая пациентам вопросы, требующие утвердительного или отрицательного ответа, они просят их в случае ответа «да» представить себя на корте с ракеткой в руках или визуализировать облик собственного дома при ответе «нет». И наблюдают, как загораются моторные зоны коры головного мозга, когда пациент представляет себя на корте («да»), или же активируется зона, отвечающая за пространственную память («нет»)[107].

С людьми понятно, а как насчет компьютеров? Поскольку у компьютеров, созданных на основе кремния, совершенно иная структура, чем у биологических нейронных сетей, в основе которых лежит белок, признаков человеческого сознания у них быть не может. Получается порочный круг. Начав с допущения, что людям, заявляющим, что они осознают происходящее, можно верить на слово, мы сумели определить маркеры человеческого сознания и использовать их для «доказательства» того, что человек действительно осознает происходящее. Но если искусственный интеллект сообщит в самоотчете, что его сознание включено, надо ли ему верить?

Пока у нас нет удовлетворительного ответа на этот вопрос. Уже тысячи лет назад философы поняли, что присутствие разума в ком-то еще, кроме нас самих, недоказуемо. Даже в случае с другими людьми мы лишь предполагаем, что у них есть сознание, – мы не можем знать это наверняка. Возможно, я единственное существо во вселенной, которое что-либо чувствует, а все другие люди и животные – лишь не имеющие разума роботы? Не сплю ли я, и не снятся ли мне все они? Возможно, я пленник виртуального мира, а все существа вокруг меня только симуляции?

Согласно сегодняшней научной догме, все мои переживания – результат электрической активности головного мозга, и поэтому теоретически возможно симулировать целый виртуальный мир, который я не смогу отличить от «реального». Некоторые ученые уверены, что в недалеком будущем это реально начнут делать. А может, уже делают – с вами? Положим, на дворе 2218 год, и вы скучающий подросток, погруженный в игру «виртуальной реальности», симулирующую примитивный и увлекательный мир начала XXI века. Как только вы признаете возможность такого сценария, математика приведет вас к пугающему заключению: если существует только один реальный мир, а число потенциальных виртуальных миров бесконечно, вероятность того, что вы обитаете в единственном реальном мире, стремится к нулю.

Ни одно из научных открытий не помогло разрешить пресловутую проблему «других умов». Лучший из предложенных до сих пор тестов – тест Тьюринга, но он лишь определяет меру социальной условности. Чтобы установить, есть ли у компьютера разум, вы, по условиям теста, должны одновременно общаться с этим компьютером и с живым человеком, не зная, кто есть кто. Вы вправе задавать им любые вопросы, играть с ними в игры, спорить и даже флиртовать. Время не ограничено. Под конец вы должны сказать, где компьютер, а где человек. Если вы затрудняетесь с ответом или ошиблись, значит, компьютер прошел тест Тьюринга и с ним следует обращаться как с разумным существом. На самом деле это, конечно, не доказательство. Признание существования «других умов» – чистая социальная и правовая условность.

Этот тест придумал в 1950 году британский математик Алан Тьюринг, один из отцов компьютерного века. Он был геем, а в то время в Британии гомосексуализм считался преступлением. В 1953 году Тьюринг был обвинен в мужеложстве и подвергнут химической кастрации. Два года спустя он покончил с собой. Тест Тьюринга – это просто отголосок жизненного теста, который в Британии 1950-х вынужден был проходить каждый гей: можешь ли ты сойти за натурала? Тьюринг по собственному опыту знал: абсолютно не важно, кто ты есть, – важно только то, что о тебе думают.

По мнению Тьюринга, компьютеры в будущем уподобятся геям 1950-х. Не важно будет, мыслят они или нет. Важно будет только то, что об этом думают люди.

Получив некоторое представление о разуме – и о том, насколько мало мы о нем знаем, – можно вернуться к вопросу: есть ли разум у других животных. Некоторые из них, например собаки, успешно проходят тест, похожий на тест Тьюринга. Когда мы пытаемся определить, разумно ли существо, то смотрим не на математическую одаренность или хорошую память, а на способность устанавливать с нами эмоциональные отношения. Люди иногда сильно привязываются к вещам, таким как машины, оружие и даже нижнее белье, но это односторонняя привязанность, без взаимности. Поскольку собаки способны быть стороной эмоциональных отношений с людьми, собачники убеждены в том, что их питомцы – не бесчувственные автоматы.

Скептики, однако, возразят, что эмоции – это алгоритмы и что нет такого алгоритма, которому для работы требовалось бы сознание. Когда животное демонстрирует сложное эмоциональное поведение, мы не в состоянии доказать, что оно не вызвано действием какого-то очень хитрого, но бессознательного алгоритма. То же, безусловно, относится и к людям. Любой поступок человека – включая заявление о якобы сознательном состоянии – теоретически может быть делом бессознательных алгоритмов.

В случае с людьми мы все же полагаемся на слово тех, кто утверждает, что находится в ясном сознании. Основываясь на этом минимальном допущении, мы научились идентифицировать нейрофизиологические маркеры сознания, которые теперь систематически используются при необходимости отличить сознательное состояние человека от бессознательного. А поскольку мозг животных имеет много общего с мозгом человека, притом что наше понимание маркеров сознания постоянно углубляется, мы, вероятно, сможем с их помощью определять, когда животные ведут себя сознательно. Если мозг собаки выдаст схемы, близкие к схемам мыслящего человеческого мозга, это будет сильным свидетельством в пользу того, что у собак есть сознание.