Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта - Макс Тегмарк

Ловля сознания в физике

Теория интегральной информации определена только для дискретных систем, множество состояний которых конечно — это могут быть, например, биты компьютерной памяти или упрощенная модель нейронов, находящихся только в одном из двух состояний: включенном или выключенном, активном или пассивном. К сожалению, это означает, что теорию нельзя применить для большинства традиционных физических систем, параметры которых могут изменяться непрерывно: например, координаты частицы или сила магнитного поля могут принимать любое из бесконечного числа значений. Если вы будете пытаться применить теорию для таких систем, то получите бесполезный результат, когда Ф равно бесконечности. Квантовая система может быть дискретной, но теория изначально не определена для квантованных систем. Так как же нам заякорить теорию интегральной информации, а также любую другую теорию сознания, использующую теорию информации, на прочном физическом фундаменте?

Мы можем сделать это, основываясь на главе 2, из которой мы узнали о том, как сгустки вещества могут обладать эмергентными свойствами, имеющими отношение к информации. Мы видели, что в качестве устройства, пригодного для хранения информации, может использоваться только нечто такое, у чего есть много долгоживущих состояний. Мы также видели: чтобы быть компьютрониумом, то есть субстанцией, пригодной для проведения расчетов, кроме того, требуется сложная динамика — законы физики должны быть в состоянии заставлять эту субстанцию изменяться достаточно сложным образом, чтобы производить произвольную обработку информации. Наконец, мы видели, что нейронные сети, например, оказываются подходящим субстратом для машинного обучения, потому что, просто подчиняясь законам физики, этот субстрат способен трансформировать себя, все больше и больше приспосабливаясь к проведению нужных вычислений. А теперь мы задаем новый вопрос: что сделает сгусток вещества способным обладать субъективным опытом? Другими словами, при каких условиях сгусток вещества будет в состоянии проделывать следующие четыре вещи:

Первые три вещи мы изучили в главе 2. Теперь к ним добавилась четвертая. Так же, как Марголус и Тоффоли создали термин компьютрониум для вещества, которое способно выполнять произвольные вычисления, я хотел бы предложить термин сентрониум для абстрактного вещества, которое способно иметь субъективный опыт (от латинского sentio — чувствовать, ощущать)[61].

Но как само сознание может ощущать себя настолько нефизическим, если оно на самом деле — физическое явление? Как может оно чувствовать себя настолько независимым от своего физического субстрата? Я думаю, что так происходит потому, что оно и в самом деле не зависит от своего физического субстрата, служащего ему лишь ложем! Нам уже знакомо много красивых примеров независимости от субстрата, рассмотренных в главе 2. В их числе — волны, воспоминания и вычисления. Мы видели, как во всех этих примерах не просто возникает нечто большее, чем сумма участвующих в явлении частей (то есть эмергентность), но, скорее, независимость явления от своих частей, когда оно начинает жить собственной жизнью. Например, мы видели, что симулированный разум будущего или персонаж компьютерной игры никоим образом не сможет распознать, какая операционная система при этом используется — Windows, Mac OS, Android на телефоне или еще какая-нибудь другая, потому что его функционирование совершенно не будет зависеть от субстрата. Не сможет он распознать, как именно реализованы логические гейты его компьютера — это транзисторы, оптические схемы или какой-то другой «хард». Или какие использовались фундаментальные законы физики — они могут быть какими угодно, лишь бы только позволяли создание универсального компьютера.

В целом, я думаю, сознание — это физическое явление, которое воспринимает себя нефизическим потому, что оно подобно волне и вычислению: его свойства не зависят от его конкретного физического субстрата. Это логически следует из идеи представить сознание как информацию. Такое представление приводит к еще одной радикальной идее, которая мне решительно нравится: если сознание — это ощущение, возникающее при обработке информации определенным образом, то оно обязано быть не зависящим от субстрата — ведь значение имеет структура обработки информации, а не структура того вещества, в котором эта обработка производится. Другими словами, сознание оказывается дважды не зависящим от субстрата!

Как мы видели, физика описывает возмущения пространственно-временного континуума, которые соответствуют движущимся частицам. Когда конгломераты определенным образом организованных частиц подчинены определенным принципам, они порождают явления, которые мы называем эмергентными и которые очень мало зависят от порожденного частицами субстрата, и эти явления совершенно иначе воспринимаются. Яркий пример тому — обработка информации, или компьютрониум. Но теперь мы можем перенести эту идею на новый уровень: если обработка информации ведется в соответствии с определенными принципами, то результатом может оказаться эмергентное явление более высокого уровня, которое мы называем сознанием. Это помещает ваши субъективные переживания не на один, а на два уровня выше материи. Ничего удивительного, ваш дух ощущает себя нефизическим!

Но тогда возникает вопрос: каковы должны быть принципы, следуя которым, обработка информации становится сознанием? Я не претендую на знание всех достаточных условий, гарантирующих сознание, но есть четыре необходимых условия, на которые я делаю ставку и посвящаю им свои исследования:

Как я уже говорил, по-моему, сознание — это то, что испытывает информация, когда обрабатывается определенным образом. А значит, чтобы быть сознательной, система должна иметь возможность хранить и обрабатывать информацию, что подразумевают первые два принципа. Обратите внимание, что память не должна быть долгосрочной: я очень рекомендую посмотреть трогательное видео Клайва Уэринга о человеке, который выглядит совершенно сознательным, даже несмотря на то, что его воспоминания длятся меньше минуты. Я также думаю, что сознательная система должна быть достаточно независимой от всего остального мира, потому что в противном случае у нее не возникнет субъективного ощущения самостоятельного существования. Наконец, я думаю, что сознательная система должна быть интегрирована в единое целое, как утверждал Джулио Тонони, потому что если бы она состояла из двух независимых частей, то они чувствовали бы себя как две отдельные сознательные сущности, а не одна. Первые три принципа предполагают автономию: система способна хранить и обрабатывать информацию без заметного вмешательства извне, определяя тем самым свое собственное будущее. Все четыре принципа вместе означают, что система как целое автономна, но это не относится ни к одной из ее частей.