Машина эмоций - Марвин Мински

Однако нельзя игнорировать тот факт, что от некоторых сбоев в работе разума людям бывает сложно или невозможно оправиться. Например, если выходят из строя механизмы, контролирующие ваши процессы Критиков/Переключателей, остальная часть разума может превратиться в неорганизованное облако конфликтующих ресурсов – или застрять в единственном способе думать, который невозможно переключить.

Думаю, не ошибусь, если предскажу, что в будущих попытках создать крупномасштабные и способные к развитию машины с искусственным интеллектом те столкнутся со всеми видами психических заболеваний. Ведь если бы разум мог менять принципы своей работы, он бы подвергся опасности самоуничтожения. Быть может, это одна из причин того, что наш мозг разработал в процессе эволюции так много частично отделенных друг от друга систем, вместо того чтобы выстроить более объединенную и централизованную: возможно, существовали серьезные основания ограничить то, в какой степени разум может исследовать сам себя!

Например, ни одному отдельному способу думать нельзя слишком полно контролировать системы, которые мы используем для запоминания, в противном случае он сможет переписать все старые воспоминания человека. Сходным образом было бы опасно для любого ресурса слишком долго находиться в состоянии активности, ведь это может заставить остальной разум тратить все время на преследование единственной цели. Также если бы любой ресурс мог полностью подавлять наши инстинктивные побуждения, он заставил бы человека вообще не спать, или работать до полного изнеможения, или изморить себя голодом, – и то же самое можно отнести к любому ресурсу, способному контролировать системы, отвечающие за удовольствие и боль.

Пусть такие радикальные случаи редки, в основе множества распространенных человеческих недостатков лежит рост «ментальных паразитов», которые принимают формы самовоспроизводящихся наборов идей. Ричард Докинз назвал их в свое время мемами. Подобное собрание концепций может включать в себя способы роста и защиты путем подмены конкурирующих наборов идей – см. Блэкмор, 1999. Чтобы защититься от подобных крайностей, наш мозг научился находить баланс между чрезмерной централизацией и чрезмерным рассредоточением.

И тем не менее мы все равно уязвимы перед доктринами, философскими идеями, убеждениями и верованиями, которые распространяются среди всего народонаселения Земли. Сложно представить себе какой бы то ни было верный способ уберечься от подобных инфекций. Я считаю, что лучшее, что мы можем сделать, – это обучить наших детей навыкам критического мышления и методам научной проверки фактов.

Я понимаю это стремление, но не вижу, как такой цемент может нам помочь, потому что, какой бы клей вы ни предложили – например, концепцию единого «Я», – вам все равно придется описать, из чего состоит он сам и какая магия склеивает его компоненты. Поэтому слова вроде «духа» и «сущности» лишь вынуждают нас задавать одни и те же вопросы. Что касается таких терминов, как «Я» и «самость», они, как мне кажется, описывают только те случаи, когда мы используем модели собственного разума.

Пожалуй, самая популярная теория о том, что такое человек, предполагает, что у каждого есть центральное ядро – какой-то невидимый дух или призрак, которым наделяет нас некий анонимный благодетель. Однако более реалистичной позицией было бы признать, что каждый человеческий разум, существующий сегодня, является продуктом процесса, в ходе которого дециллионы канувших в былое существ на нашей планете реагировали на среду, приспосабливались, адаптировались и умирали, чтобы часть их потомков оказалась лучше подготовлена к жизни. На протяжении этой немыслимо масштабной истории каждое из живых существ внесло свой вклад в огромный набор экспериментов, любому из которых мы можем быть обязаны развитием нашего мощного мозга.

Мы не знаем точно, как зародилась жизнь на Земле, – за исключением того, что она, вероятно, началась где-то в воде, а затем распространялась, населяя океаны, морские побережья, пустыни и равнины, пока наши предки не построили для себя первые поселения. Однако мы знаем, что это продолжалось более тридцати миллионов столетий, и, насколько нам известно, другого такого процесса в нашей Вселенной еще никогда не происходило. Тем не менее большинство привычных отчетов о нашем происхождении вовсе не упоминают об этом потрясающем подвиге самопожертвования.

После такого было бы безрассудно, опрометчиво и постыдно отмахиваться от всех наших умственных способностей так, будто они достались нам даром. Ибо, пока мы не найдем убедительных доказательств существования других видов разумной жизни, необходимо отдавать себе отчет в том, сколь многим мы обязаны всем тем существам, что умерли до нас, – и позаботиться, чтобы разум, который мы унаследовали, не канул в Лету из-за глупого и небрежного отношения к планете.

Развитие нашей непревзойденной гибкости ума можно проследить по трем качественно разным временным шкалам.

Каждый человеческий мозг содержит сотни различных ресурсов, каждый из которых состоит из миллионов кластеров клеток самых разных видов. Эти унаследованные системы помогают нам избегать самых разных опасностей и угроз.