Общая теория капитала. Самовоспроизводство людей посредством возрастающих смыслов. Часть третья - А. Куприн

есть люди, кто разрабатывает компьютерные вирусы, то кто-нибудь создаст ИИ, который воспроизводит самого себя. Это будет новая форма жизни, которая превзойдет людей».

Будучи способом человеческого самовоспроизводства, смыслы всегда отвечают человеческим потребностям и нормам, вырастающим из природы человека как животного и как социального существа. Поэтому линейной эволюции смыслов недостаточно, чтобы создать искусственного человека. Эволюция смыслов лишь накапливает информацию. Чтобы информация о сильном ИИ превратилась в событие сильного ИИ, необходим разрыв в эволюции, необратимое усиление. Такое усиление может быть произведено лишь на достаточной ступени сложности: «Действительно существенные и активные явления жизни и обучения начинаются лишь после того, как организм достиг некоторой критической ступени сложности: и хотя эта сложность, вероятно, достижима при помощи чисто технических, не очень трудных средств, тем не менее требуется предельное напряжение таких средств» (Винер 1958, с. 211).

Поскольку самовоспроизводство людей опосредуется возрастанием смыслов, а возрастание смыслов опосредуется самовоспроизводством людей, то в беспрестанно повторяющемся цикле взаимного воспроизводства теряются его начало и конец. Смыслы становятся средством воспроизводства людей, а люди — средством воспроизводства смыслов. Становится неясно, являются ли средства самовоспроизводства на самом деле средствами для воспроизводства человека, или уже человек стал средством воспроизводства своих смыслов — в их облике искусственного разума.

С одной стороны, эволюция смыслов постепенно снимает природные ограничения с человеческого вида, создает человечество как сверхприродное явление. С другой стороны, теперь люди оказываются ограничены пределами смысла и понимают это. Выходя за пределы возможностей человеческого тела (создавая орудия труда и искусственное тело), люди не могут выйти за пределы смысла. Напротив, сам смысл грозит выйти за пределы человечества и образовать сферу сверхчеловеческого. В 1960-х Николай Амосов писал о проблемах, которые связаны с развитием искусственного интеллекта. Первая из них проявляется уже теперь, в 2020-х годах, на стадии слабого ИИ. Вторая проблема, видимо, станет актуальной позднее, по мере развития сильного ИИ:

«К сожалению, можно предположить и другие аспекты проблемы, которые нуждаются в обсуждении уже сейчас. Их по крайней мере две. Первое — ущерб человеку от внедрения искусственного разума в творчество. Не исключено, что придет время, и искусственный разум сможет не только конструировать машины, но писать стихи и музыку, открывать новые законы природы. Это повлечет за собой ослабление стимула творчества у людей. Вторая проблема состоит в превращении искусственного разума, действующего по программам человека, в личность, имеющую собственные интересы. Я уже говорил о том, что нельзя выполнить разум без всяких чувств, так как они отражают степень эффективности в реализации поставленных целей. Минимальные чувства — добро и зло, приятное и неприятное. Этого уже достаточно, чтобы при наличии самоорганизации, то есть способности к созданию новых моделей, появились новые, производные чувства и новые, собственные цели деятельности. Личность тем и отличается от автомата, что имеет собственные интересы — потребности, цели, оценки. Искусственный разум неизбежно превратится в личность, как только у него будет воспроизведена самоорганизация» (Амосов 1969, с. 151–152).

Смысл оказывается благословением и вместе с тем проклятием. Без смысла нет человека. «Быть человеком — значит быть направленным не на себя, а на что-то иное … означает быть обращенным к смыслу, требующему осуществления, и ценностям, требующим реализации. Это значит жить в поле напряжения, возникающего между полюсами реальности и идеалов, требующих материализации. Человек живет идеалами и ценностями» (Франкл 1990, с. 284–285). Казалось бы, человек и смысл образуют единство.

Но эволюция культуры переворачивает отношение между человеком и смыслом. Смысл грозит стать своей собственной целью — человеком, и даже сверхчеловеком, поскольку он направляется на себя самого. Очевидно, чтобы избежать этого, искусственный интеллект должен получить какой особенный, свой собственный смысл, и этим смыслом должен быть человек. Не называем ли мы это любовь?

Пока основной результат от попыток создать искусственный интеллект состоит в том, что люди все больше разбираются в том, как устроены они сами и их общество. Люди возвращаются от технологий к самим себе. Может быть, психология оказывается самой важной технологией? Как иначе решить проблемы человеческой жизни, порождаемые развитием техники?

«Диссонансы современной жизни — в особенности все то, что связано с техникой в различных областях, и с одновременным недовольством техникой, — проистекают по большей части из того, что вещи становятся все более культивируемыми, тогда как человек все менее способен обрести совершенство субъективной жизни с помощью совершенствования объектов» (Зиммель 1996, с. 482).

Как показано в рассказе Эдварда Форстера «Машина останавливается», машина, то есть технология, ставшая независимой от человека, рано или поздно остановится, и тогда выживут только те, кто остались независимы от нее. Если нельзя остановить развитие технологий, то не пора ли задуматься о том, чтобы хотя бы замедлить их развитие? Возможно ли это? Думается, нет. Но от этой безысходности вопросов не становится меньше.

«Если бы мы просто использовали явления природы в необработанном виде, приводя в действие водяные колеса или приводя в движение парусные корабли, мы чувствовали бы себя более комфортно с технологиями, и наше доверие и надежда были бы менее противоречивыми. Но теперь, с появлением генной инженерии, машинного интеллекта, бионики, климатической инженерии, мы начинаем использовать технологии — использовать природу — для непосредственного вмешательства в природу. А нашим внутренним приматам, живущим среди деревьев, трав и других животных, это кажется совершенно неестественным. Это подрывает наше глубокое доверие. Бессознательно мы реагируем на это разными способами. Обращаемся к традиции. Обращаемся к экологии. Мы прислушиваемся к семейным ценностям. Обращаемся к фундаментализму. Мы протестуем. За этими реакциями, оправданными или нет, стоят страхи. Мы боимся, что технология отделяет нас от природы, разрушает природу, разрушает нашу природу. Мы боимся феномена технологии, который не находится под нашим контролем. Мы боимся, что высвобождаем некое бестелесное действие, каким-то образом обретающее собственную жизнь и каким-то образом пытающееся контролировать нас. Мы боимся технологий как живых существ, которые принесут нам смерть. Не смерть небытия, а худшую смерть. Смерть, которая приходит с несвободой. Смерть воли» (Arthur 2011, p. 215).

Без смысла нет не только общества-культуры, но и личности человека. Ценность имеет то, что проживается как личное. Когда ценности отделяются от смысла жизни, они пустеют. «Ценность по видимости предполагает, что сообразующиеся с нею люди занимаются самым что ни на есть ценным; на самом деле ценность как раз и оказывается немощным и прохудившимся прикрытием для потерявшей объем и фон предметности сущего. Никто не умирает за голые ценности» (Хайдеггер 1993, с. 56). Попытка найти смысл жизни — это попытка найти цель в средстве достижения этой цели, попытка найти результат процесса в самом процессе, то есть такое же увлекательное