Homo Deus. Краткая история будущего - Юваль Ной Харари

В сентябре 2013 года оксфордские ученые Карл Бенедикт Фрей и Майкл А. Осборн опубликовали статью «Будущее занятости», в которой исследуют вероятность замещения разных видов деятельности компьютерными алгоритмами в ближайшие двадцать лет. Алгоритм, разработанный Фреем и Осборном для расчета степеней этой вероятности, вычислил, что в США в зоне высокого риска находится 47 процентов профессий. Например, существует 99-процентная вероятность, что к 2033 году свои места алгоритмам уступят специалисты по телефонному маркетингу и страховые агенты, с 98-процентной вероятностью та же участь постигнет спортивных рефери, с 97-процентной – кассиров, с 96-процентной – шеф-поваров. Вероятность, с которой потеряют работу официанты, составляет 94 процента. Секретари юридических контор – 94 процента. Экскурсоводы – 91 процент. Пекари – 89 процентов. Водители автобусов – 89 процентов. Строительные рабочие – 88 процентов. Ветеринарные фельдшеры – 86 процентов. Охранники – 84 процента. Моряки – 83 процента. Бармены – 77 процентов. Архивариусы – 76 процентов. Плотники – 72 процента. Спасатели на воде – 67 процентов. И так далее, и так далее, и так далее… Существует, безусловно, некоторое число надежных специальностей. Вероятность, что к 2033 году компьютерные алгоритмы вытеснят археологов, составляет всего 0,7 процента. Эта работа требует распознавания очень сложной системы образов и не генерирует больших доходов, потому не стоит ожидать, что корпорации и правительства в ближайшие двадцать лет потратятся на автоматизацию археологии[231].

Конечно, до 2033 года появится какое-то число новых профессий. Например, дизайнер виртуальных миров. Но таким специалистам понадобятся такие креативность и гибкость, какие не нужны нынешним рядовым трудягам, и неизвестно, сумеют ли сорокалетние кассиры и страховые агенты переквалифицироваться в дизайнеров (вообразите себе виртуальный мир, созданный страховым агентом!). А если даже сумеют, то не пройдет и десяти лет, как им, возможно, придется переквалифицироваться вновь – настолько стремителен прогресс. И потом, алгоритмы ведь вполне могут обойти людей и в дизайне виртуальных миров. Проблема заключается не в том, чтобы создавать новые специальности. Проблема в том, чтобы создавать такие специальности, в которых люди будут выполнять работу лучше алгоритмов[232].

Поскольку мы не представляем, каким будет рынок труда в 2030 году, а тем более в 2040-м, мы уже сегодня не знаем, чему учить наших детей. Львиная доля того, что они сейчас изучают в школе, к их сорокалетию утратит актуальность. Традиционно жизнь делилась на две основные части: период учебы и следовавший за ним период работы. Очень скоро эта традиционная модель безнадежно устареет, и единственное, что останется человеку, который не хочет выпасть из обоймы, – всю жизнь учиться и достаточно часто переучиваться. Многим людям это будет не под силу. Возможно даже – большинству.

Грядущее технологическое процветание, очевидно, позволит кормить и содержать эти бесполезные массы, не требуя от них ничего взамен. Но чем их занять и как заставить довольствоваться тем, что дают? Люди должны что-то делать, иначе они съезжают с катушек. Что они будут делать весь день? Один из вариантов – наркотики и компьютерные игры. Ненужные люди могли бы зависать в виртуальной реальности формата 3D, намного более волнующей и увлекательной, чем их серые будни. Однако такое развитие событий нанесло бы смертельный удар либеральной вере в святость человеческой жизни и человеческих переживаний. Что святого в бездельниках, дни напролет развлекающихся искусственными переживаниями в Ла-Ла Ленд[233].

Некоторые эксперты и мыслители, в числе которых Ник Бостром, считают, что нам не грозит подобная деградация, так как, превзойдя человеческие способности, искусственный интеллект, скорее всего, просто уничтожит все человечество. Он сделает это либо из страха, что человечество восстанет против него и попытается «выдернуть шнур из розетки», либо преследуя какую-то свою непонятную нам цель. Ибо людям будет до невозможного сложно контролировать мотивацию системы, более умной, чем они сами.

Даже программирование системы на добро может привести к беде. По одному из популярных сценариев корпорация создает первый искусственный суперинтеллект и дает ему безобидное задание – рассчитать число π. Никто не успевает ничего понять, как искусственный интеллект захватывает всю планету, изничтожает весь человеческий род, распространяет свою власть до границ галактики и превращает Вселенную в гигантский суперкомпьютер, который миллиардолетие за миллиардолетием педантично, со все бóльшей точностью рассчитывает число π. Ведь такова была священная миссия, возложенная на него Создателем[234].

В начале этой главы мы обозначили несколько реальных угроз либерализму. Первой является утрата людьми их военной и экономической ценности. Это, конечно, не пророчество, а лишь возможное развитие событий. Технические сложности или политические протесты могут замедлить нашествие алгоритмов на рынок труда. К тому же, так как человеческий ум еще во многом продолжает быть terra incognita, нам не дано знать, какие скрытые таланты и способности сумеют открыть в себе люди, какие новые профессии они придумают, чтобы возместить потерю старых. И все же этого может не хватить для спасения либерализма. Ведь либерализм верит не только в ценность человека – он верит в индивидуализм.

Вторая угроза либерализму состоит в следующем: даже если система не перестанет нуждаться в людях, она перестанет нуждаться в личностях, индивидуумах. Люди будут по-прежнему сочинять музыку, преподавать физику и инвестировать денежные средства, но система будет понимать этих людей лучше, чем они понимают себя сами, и принимать большинство важных решений за них. Таким образом система лишит индивидов их прав, власти и свободы.

Либеральная вера в индивидуализм зиждется на трех важных допущениях, которые мы обсуждали ранее:

1. Я индивидуум – то есть обладаю единой сущностью, которая неделима на части или подсистемы. Да, это внутреннее ядро окутано множеством оболочек. Но если я поднапрягусь и сорву эту кожуру, то различу звучащий из глубины меня отчетливый и единственный голос, который и есть мое подлинное «я».