Общая теория капитала. Самовоспроизводство людей посредством возрастающих смыслов. Часть третья - А. Куприн

только от рутины, от слабого ИИ, но и от творчества предпринимателей, от их мотивации, эмоционального и рационального интеллекта. И от перспектив автоматизации творчества.

Трудная проблема субъекта и сильный ИИ

История машин начиналась с расширения возможностей человека, его физических и интеллектуальных способностей. Теперь же ставится вопрос о том, чтобы машина могла так обрабатывать информацию, чтобы она не была дополнением к интеллекту человека, а была самостоятельным субъектом, то есть сильным искусственным интеллектом, сильным ИИ. Если слабый ИИ — это расширение естественного субъекта, повышение сложности человека и общества-культуры, то сильный ИИ — это рост численности субъектов, то есть появление новых субъектов и новых их видов наряду с людьми.

Если слабый ИИ есть лишь средство для деятельности человека, то гипотетический сильный ИИ сам является субъектом. Средства участвуют в деятельности, но не ведут деятельность, не могут сами менять ее сложность. Слабый ИИ, сколь бы большим расширением естественного интеллекта он ни был, даже если бы он позволил продлить жизнь людей в два раза, сам по себе не является субъектом. Если люди исчезнут, то с ними исчезнет и слабый ИИ. Сильный ИИ — это алгоритм творчества или «непредсказуемая случайность, ставшая неизбежной необходимостью». Он не исчез бы при исчезновении людей и смог бы сам повышать свою сложность. Возрастание смыслов постепенно создает его элементы, и некоторые из них, быть может, уже существуют, но целостное решение еще очень далеко.

Проблема состоит в том, что создать искусственного субъекта труднее, чем сохранить естественного. Предварительным условием создания сильного ИИ является, видимо, воспроизводство человека в искусственной форме. Невозможно создать нечто, что выходит за пределы человеческого, не повторив сначала самого человека. Прежде, чем создавать одушевленные машины, людям придется научиться переносить в машины уже имеющиеся живые человеческие души. Подлинное сообщение о том, что удалось создать искусственного субъекта, думается, придет не раньше, чем придет сообщение о том, что удалось добиться бессмертия человека.

Распределение забот по воспитанию детей между аллородителями, с которого, как считает Джозеф Генрих, началась в свое время человеческая культура, перекликается с идеей Манфреда Эйгена о гиперцикле. Согласно этой гипотезе, для возникновения жизни необходимо было преодолеть «порог ошибки», то есть максимальный размер, при превышении которого молекула РНК не могла передавать «по наследству» свои свойства. Этот порог оценивается примерно в 100 спаренных оснований. В современных молекулах этот порог преодолевается за счет ферментов, однако ферменты сами являются продуктом биологической эволюции. Согласно гипотезе Эйгена, «порог ошибки» был преодолен за счет того, что некоторые РНК смогли взять на себя функцию фермента и обеспечить другие молекулы возможностью увеличиться сверх порога ошибки (см. Szostak, Wasik and Blazewicz 2016). Таким образом, как в случае с началом биологической, так и в случае с началом культурной эволюции, они начались, когда были выполнены два условия:

● за счет количественного накопления изменений был достигнут некий порог, который сами представители популяции (молекулы, гоминиды) не могли преодолеть;

● часть популяции, в которой происходило это накопление, взяла на себя функцию не (только) по собственному воспроизводству, но и по развитию другой части популяции (фермент, воспитатель).

Применительно к той трансформации, которую мы ныне наблюдаем, то есть применительно к развитию ИИ, задачу количественного накопления выполняют люди, повышая вычислительную мощность машин и занимаясь их обучением. Однако такое количественное накопление, сколько бы оно не продолжалось, никогда не приведет к возникновению сильного ИИ, но будет лишь расширять естественный интеллект людей и их общества:

«Аналог идеи о том, что искусственный интеллект можно создать, накапливая трюки чатбота, — это ламаркизм, теория о том, что новые адаптации можно объяснить изменениями, которые в действительности являются лишь проявлением существующих знаний» (Дойч 2014, с. 208).

Для того, чтобы возник ИИ как субъект, нужен скачок, аналогичный появлению живой молекулы. Кто или что возьмет на себя роль «фермента», который позволит преодолеть «порог ошибки», и какой показатель в данном случае составляет такой порог? Думается, первым шагом к ответу на этот вопрос может быть ответ на вопрос: какой показатель (или показатели) составил в свое время порог для перехода от инстинктов к практикам, и от практик к интеллекту? Понимание законов эволюции смысла приобретает особую важность с учетом перспектив развития искусственного интеллекта. Решить задачу создания сильного ИИ — это то же самое, что решить трудную проблему субъекта: что такое свобода воли, есть ли она и как она появляется.

Для того, чтобы создать сильный искусственный интеллект, нужно воспроизвести все слои информации, имеющиеся в естественном интеллекте человека — то есть и некоторое подобие генетической информации, и все слои культурной информации, начиная от инстинктов через обучение и вплоть до интеллекта. Пока мы наблюдаем, как эти слои воспроизводятся в обратном порядке, причем нижние слои воспроизводятся более тяжело. Как гласит парадокс Моравека, компьютеру

«относительно легко достичь уровня взрослого человека в таких задачах как тест на интеллект или игра в шашки, однако сложно или невозможно достичь навыков годовалого ребенка в задачах восприятия и мобильности … В больших, высокоразвитых сенсорных и моторных частях человеческого мозга закодирован миллиард лет опыта о природе мира и о том, как в нем выжить. Я считаю, что тот произвольный процесс, который мы называем рассуждением, есть тончайший поверхностный слой человеческого мышления, и эффективен он только потому, что его поддерживает гораздо более старое и гораздо более мощное, хотя обычно и бессознательное, сенсомоторное знание. Мы все выдающиеся олимпийцы в области восприятия и моторики, мы настолько хороши в этом, что трудное выглядит легким. А абстрактное мышление — это новый трюк, которому, возможно, менее 100 тысяч лет. Мы еще не освоили его. Он не так уж и сложен, он лишь кажется сложным, когда мы его делаем» (Moravec 1988, p. 15–16).

Эволюция человека шла от инстинктивных сенсомоторных действий через деятельность, основанную на обучении и практиках, к разумным операциям, а эволюция искусственного интеллекта протекает, так сказать, в обратном направлении: от решения рассудочных задач (игры) через практики (машинное обучение) к машинным инстинктам (механическое движение).

Эволюция ИИ является задачей, но вместе с тем проблемой. В своей работе 1969 года «Искусственный разум» Николай Амосов писал, что когда у искусственного интеллекта появится способность к самовоспроизводству, к самоорганизации, он неизбежно превратится в личность со всеми ее чертами:

«Пределы независимости личности, границы ее возможного отличия от первоначально заданных программ — эти понятия имеют количественное выражение. Поведение одних людей остается в пределах преподанных воспитанием норм, другие люди выходят за эти границы — вплоть до преступлений против общества. Многое зависит от