Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

ИИ – угнетатель по самой своей природе, потому что сбор данных вводит асимметрию в отношения со властью. А кстати, разве не военные придумали ИИ?

Я почти три часа просидел в этой тесной комнате, где кипели умы. Эти туманные теории заговора в конце концов привели к неразличимости между американским правовым государством со всеми его недостатками и худшими диктатурами. В частности, я сделал вывод, что сопротивление надзору и nudge ни в коем случае не должно превращаться в борьбу с самими технологиями. Зачем возвращать себе способность самостоятельно размышлять, если вы так мало ею пользуетесь?

Воля к отключению от сети – форма современного отшельничества, привлекающая несогласных самого радикального толка. Сколь бы здравой она ни была с индивидуальной точки зрения, ей никогда не стать моделью общества.

Поэтому нужно искать пути примирения свободного волителя и ИИ, а именно способы усиления первого за счет второго. В теоретическом плане правильный путь мне указала встреча с Матье Рикаром. Буддистский монах, практикующий медитацию, специалист в области молекулярной генетики, хорошо осведомленный о современных нейроисследованиях, Рикар показался мне идеальным собеседником. Я не остался разочарован: наша беседа в осеннем тумане в замке в Бордо, хотя и была очень короткой, дала мне ключ к тому, что я искал вот уже несколько месяцев. Его концепция ответственности близка к представлениям Деннета: главная особенность свободного действия не в том, что оно порывает с порядком вещей, а в том, что к нему приводит непрерывность нашей личной истории. «Мгновенный, автоматический выбор – результат целой жизни с принятыми в ней решениями», – говорит Рикар. Неважно, что, когда мы решаем броситься в море, чтобы спасти тонущего ребенка, на нас воздействуют биохимические механизмы нашего мозга. Неважно, что наше решение оформляется в сознании через доли секунды после его принятия: к такому результату приводит вся совокупность миллионов осознанных решений, принятых в течение нашей жизни. Эти осознанные решения и отражают нашу истинную личность. Именно потому, что однажды я принял сознательное решение помочь слепому в метро, или потому, что ночи напролет ухаживал за больным ребенком, много лет спустя я смог прыгнуть в воду не раздумывая. Как пишет Матье Рикар: «Спонтанная, инстинктивная мораль – проявление самых глубоких наших достоинств или недостатков»[194]. Эта мораль, далекая от простого рационального или эмоционального расчета, вырабатывается и тренируется, как мускул.

Когда речь заходит об ИИ, Матье Рикар не видит никаких проблем в том, чтобы поручить машине принятие решений в повседневной жизни на основе нашего собственного глубокого выбора. Он не против того, чтобы ему в мозг вживили Википедию, если это позволит ему быстрее получать доступ к знаниям. Он принимает nudge как короткий путь. Но при условии, что мы сможем сами определять этот nudge, включив в него этические составляющие, родившиеся из наших размышлений. В буддистском подходе эти размышления предполагают интроспекцию и медитацию, которые только и способны произвести глубокую трансформацию «Я». Нет никаких причин дать завести себя на путь утилитаризма. Каждый должен иметь возможность устанавливать собственные критерии действия. Точно так же, как мы полагаемся на нейронные связи, моделируемые в течение всей жизни, чтобы принимать хорошие решения или, точнее, решения, которые нас отражают, можно было бы опереться на nudge, чтобы продлить и акцентировать выражение нашей собственной морали. Произведя делиберацию, нужно затем научить делегировать принятие решения как своему бессознательному, так и ИИ. Это тем более важно, что, по оценкам исследований в области нейронаук, человек принимает в среднем по 35 тысяч решений в день![195] Машина вполне могла бы помочь нам разгрузить наши когнитивные способности, чтобы мы могли сконцентрироваться на более важных выборах.

Вот что радикально меняет термины дискуссии. Уже не nudge направляет индивида (или скорее «дивида»), но принимающий взвешенное решение человек сам выбирает, куда его подталкивают. Каким образом это может быть реализовано в технологическом плане?

Именно на этот вопрос пытается ответить Гарри Клур, появившись в затерянном кафе в пригороде Редвуд-сити, между железнодорожным переездом и шиномонтажом. У него в руках чемоданчик, которым он размахивает. Со своей взлохмаченной кудрявой гривой, широкими плечами и восторженностью энтузиаста Клур похож на золотоискателя, только что набредшего на жилу. Он перепробовал все профессии, которые изобрела Калифорния: предприниматель, изобретатель, сценарист, режиссер… Клур, имеющий хорошие связи как с Фондом X Prize, так и с голливудскими продюсерами, не сидит на месте и носится по всему кафе.

На первый взгляд трудно представить себе персонажа, более непохожего на Матье Рикара. Однако с буддийским монахом его роднит солидное научное образование: он первым в мире одновременно защитил две диссертации – первую по физике, а вторую по химии. Наш разговор меня удивил. Оправившись от шока из-за падения акций Facebook на бирже (заголовок в газете, которую он держит в руках), Гарри заговаривает более спокойным тоном. Речь не о том, чтобы изменить мир или отправить наши аватары на Марс. Наоборот, в его словах я нахожу немало моих собственных выводов об ИИ. Нет, не надо бояться сильного ИИ, или сверхинтеллекта, вслед за Илоном Маском – этим большим ребенком, путающим кино с реальностью. Нет, ИИ по природе неспособен к концептуализации, тогда как дошкольник может перенести идею «мытья» с чайной чашки на машину. Да, ИИ воспроизводит результаты человеческого мышления, но не сам процесс. Да, ИИ создает угрозу для свободы воли, управляя нашим выбором, от маршрута поездки на автомобиле до профессиональной жизни. Гарри Клур опасается последствий, которые будет иметь эта когнитивная лень для всего человечества. Когда я говорю ему о делёзовском принципе ризомы, он тут же отвечает: «Это же сорняки, их нужно выполоть». Только деревья с глубокой корневой системой способны принимать решения.

Я поддакиваю, удивленный подобным родством душ. Мы даже планируем вместе написать статью о свободе воли в век машинного обучения. Но, помимо констатации фактов, Гарри еще предлагает решение, которое он назвал «первой директивой», по мотивам «Стартрека». Нужно заметить, что в конце 1990‐х Гарри написал сценарий шести эпизодов этого культового научно-фантастического сериала, что дает ему некоторое право использовать его язык. The Prime Directive, или «первая директива», – это главный закон, регламентирующий поведение экипажа корабля. Хотя в сериале его ни разу открыто не формулировали, можно догадаться, что он устанавливает что-то вроде принципа невмешательства, запрещающего цивилизации, достигшей высокого уровня развития технологий, силой навязывать свои ценности другим (учитывая дух «Стартрека», это может быть намеком на роль США в войне во Вьетнаме). Шире, в представлении Гарри Клура, «первая директива» – это высшее правило морального порядка, ограничивающее использование технологий: правило, которое люди выбирают сами для себя и обязываются соблюдать, не требуя при этом его соблюдения от других и не возводя во всеобщий закон. Это персональная этика, более близкая