Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта - Макс Тегмарк

Если эти четыре принципа верны, то значит, для нас готова новая работа: нам надо найти строгие математические теории, в которых эти принципы были бы воплощены, и провести их экспериментальную проверку. Нам необходимо также проверить, не нужны ли какие-нибудь дополнительные принципы. Независимо от того, верна ли теория интегральной информации, исследователям надо попытаться разработать конкурирующие теории и проверить их все в самых совершенных экспериментах.

Мы уже обсуждали многолетние споры о том, стоит ли заниматься изучением сознания, не оборачивается ли оно с неизбежностью ненаучной чепухой и пустой тратой времени. Вдобавок к этому недавно начались споры на самом переднем крае исследований сознания — давайте изучим те из них, которые я считаю наиболее поучительными.

Теория интегральной информации Джулио Тонони принесла ее автору не только похвалы, но и немало критики, часть которой была весьма ядовитой. Скотт Ааронсон недавно так высказался в своем блоге: «На мой взгляд, тот факт, что теория интегральной информации ошибочна, — причем явно ошибочна, по причинам, прослеживаемым к самому ее ядру, — дает ей право занять место среди лучших 2 % всех математических теорий сознания из когда-либо предложенных. Почти все конкурирующие теории сознания, кажется мне, были настолько расплывчатыми, пустыми и бесформенными, что они могут только мечтать об ошибочности». К чести Ааронсона и Тонони надо сказать, что они ни разу не переступили черту дозволенного, когда я видел их во время обсуждения теории интегральной информации на недавнем семинаре в Нью-Йоркском университете: они вежливо выслушивали аргументы друг друга. Ааронсон показал, что у некоторых простых сетей логических гейтов чрезвычайно высокий показатель интегральной информации (Ф), и поскольку они очевидно не обладают сознанием, теория не верна. Тонони возражал, что если бы такие сети были построены, они были бы сознательны, и что утверждение Ааронсона об обратном антропоцентрически предвзято — примерно в той же степени, в какой утверждение хозяина скотобойни по поводу того, что у животных нет сознания, лишь на том основании, что они не могут говорить и совсем не похожи на людей. Мой анализ, с которым они оба согласились, заключался в том, что их разногласия относительно интегральной информации сводятся к тому, является ли интеграция лишь необходимым условием сознания (с чем Ааронсон соглашался), или это также и достаточное условие (на что претендовал Тонони). Последнее безусловно значительно более сильное и спорное утверждение, которое, я надеюсь, скоро можно будет проверить экспериментально.

Немало споров вызывает и другой вывод теории интегральной информации, в соответствии с которым архитектура сегодняшних компьютеров не может быть сознательной, потому что то, как соединяются их логические гейты, дает слишком низкий уровень интеграции. Другими словами, если вы в будущем зальетесь в мощного робота, который точно имитирует каждый ваш нейрон и каждый синапс, и даже если этот цифровой клон будет выглядеть, ходить, говорить и вести себя не так как вы, то все равно, как утверждает Тонони, он будет бессознательным зомби без субъективных ощущений, и все ваши попытки найти субъективное бессмертие закончатся чистым разочарованием[62]. Это утверждение было оспорено Дэвидом Чалмерсом и профессором Мюрреем Шанаханом, специалистом в области искусственного интеллекта, которые предложили рассмотреть, что будет происходить, если вы двинетесь в противоположном направлении и будете постепенно заменять нейронные цепи в своем мозгу гипотетическим цифровым оборудованием, идеально их симулирующим. Хотя, если мы поверим Тонони, замены никак не затронут ваше поведение, поскольку, по предположению, симуляция идеальна, ваши ощущения должны измениться от осознанных в начале к неосознанным в конце. Но что будет происходить в промежутке, по мере того как все больше и больше частей подвергаются замене? Когда части вашего мозга, отвечающие за осознанное восприятие верхней половины поля зрения, будут заменены, заметите ли вы, что часть вашего визуального пейзажа внезапно пропадет, при том что вы таинственным образом все равно знаете, что там происходит, как утверждают пациенты со «слепыми пятнами» в поле зрения? Это вызвало бы огромные сложности, потому что если вы осознаете разницу, то вы можете сказать о ней своим друзьям, когда они об этом спросят, что противоречило бы предположению об отсутствии каких-либо изменений в вашем поведении. Единственная логически непротиворечивая возможность, совместимая с этим предположением, заключается в том, что в точности в тот самый момент, когда какая-то вещь исчезает из вашего сознания, ваш ум таинственно изменяется либо так, чтобы вынудить вас лгать, отрицая изменения чувственного восприятия, либо так, чтобы вы вдруг сразу забыли, как все выглядело раньше.

С другой стороны, Мюррей Шанахан признает, что то же самое рассуждение, использующее тактику постепенной замены, может быть применено к любой теории, утверждающей, что вы можете действовать сознательно, не будучи в сознании, поэтому возникает большой соблазн сделать вывод, что действовать сознательно и быть в сознании — одно и то же и что поэтому только наблюдаемое извне поведение имеет значение. Но тогда вы попадаете в ловушку: теория заставляет вас принять ее предсказание, что во сне вы должны быть без сознания, даже если вам самому об этом известно лучше.

Третья волна споров, вызванных теорией интегральной информации, поднялась в связи с вопросом, может ли сознательная сущность быть построена из частей, каждая из которых по отдельности тоже сознательна. Например, может ли общество в целом обрести сознание, так чтобы составляющие его люди не лишились своего? Может ли обладающий сознанием мозг состоять из частей, каждая из которых тоже сама по себе обладает сознанием? Теория интегральной информации отвечает категорическим «нет», но это не всех убеждает. Например, некоторые пациенты, у которых повреждения резко снижают возможность взаимодействия между полушариями, страдают от синдрома чужой руки, когда правое полушарие их мозга вынуждает левую руку делать что-то такое, чего они сами не хотят и даже не понимают — иногда до такой степени, что используют другую руку, чтобы удерживать ею «чужую». Как мы можем быть уверены, что в них нет двух отдельных сознаний, одно из которых размещено в правом полушарии, не способном говорить, а другое в левом полушарии, контролирующем речь и утверждающем, что контролирует и оба полушария? Представьте себе будущую технологию, устанавливающую прямую связь между мозгом одного человека и мозгом другого, и представьте себе, что она совершенствуется до тех пор, пока не станет возможной коммуникация между двумя полушариями одного мозга. Наступит ли такой момент, когда два отдельных сознания внезапно исчезнут и вместо них появится одно общее, как предсказывает теория интегральной информации, или переход будет проходить постепенно, так, что индивидуальные сознания будут сосуществовать в каком-то виде и даже формировать совместные переживания?