Homo Deus. Краткая история будущего - Юваль Ной Харари

В научно-фантастических фильмах обычно проводится мысль, что для успешного соревнования с человеческим интеллектом компьютеры должны будут развить сознание. Однако реальная наука иного мнения. Возможно, существуют альтернативные пути к сверхинтеллекту, лишь некоторые из которых пролегают по узким проливам сознания. В течение миллионов лет органическая эволюция неспешно плыла по этому маршруту. Но эволюция неорганических компьютеров может обойти эти узкие проливы стороной, выбрав другой, гораздо более быстрый путь к суперинтеллекту.

Тут возникает серьезный вопрос: что по-настоящему важно – интеллект или сознание? Пока они шли в связке, споры об их сравнительной ценности были просто забавой философов. Однако в XXI веке это становится острой политической и экономической проблемой. И надо трезво понимать, что по крайней мере армиям и корпорациям ответ на этот вопрос очевиден: интеллект обязателен, а сознание нет.

Армии и корпорации не в состоянии функционировать без интеллекта, но им не нужны сознание и субъективные переживания. Богатство сознательных переживаний таксиста из плоти и крови бесконечно в сравнении с полным бесчувствием беспилотного автомобиля. Таксист может наслаждаться музыкой, курсируя по оживленным улицам Сеула. Его сознание может расширяться, когда он в благоговении созерцает звезды и размышляет о тайнах мироздания. Его глаза могут наполняться слезами радости, когда он видит первые шаги своей дочурки. Но ничего этого системе от таксиста не нужно. Ей нужно одно: обеспечивать быструю, безопасную и дешевую перевозку пассажиров из пункта А в пункт Б. И беспилотный автомобиль скоро будет справляться с этим гораздо успешнее, хотя он и не наслаждается музыкой и не благоговеет перед чудом бытия.

Давайте вспомним, как промышленная революция обошлась с лошадьми. Обычная лошадь способна чувствовать, любить, узнавать лица, прыгать через заборы и делать много чего другого, на что не способны не только «форд» модели Т, но и «ламборгини». И все же машины вытеснили лошадей, так как лучше выполняли несколько функций, реально необходимых системе. Таксистов почти наверняка ждет участь лошадей.

В самом деле, если мы запретим людям водить не только таксомоторы, но вообще любые машины и передадим компьютерным алгоритмам управление дорожным движением, то сможем затем подключить все транспортные средства к единой сети, снизив тем самым вероятность происшествий на дорогах. В августе 2015 года один из экспериментальных беспилотных автомобилей попал в аварию. Он затормозил на перекрестке, пропуская пешеходов. Мгновение спустя в него сзади врезался седан, чей беспечный водитель, вероятно, размышлял о тайнах мироздания, вместо того чтобы следить за дорогой. Этого, скорее всего, не случилось бы, если бы обеими машинами управляли взаимосвязанные компьютеры. Контролирующий алгоритм был бы осведомлен о положении и намерениях каждого автомобиля и не дал бы двум своим марионеткам столкнуться. Такая система сэкономила бы кучу времени и денег и спасла бы не одну человеческую жизнь – но вместе с тем она упразднила бы человеческий опыт вождения и сотни миллионов рабочих мест[214].

Некоторые экономисты предсказывают, что рано или поздно обычные, немодернизированные люди станут абсолютно бесполезными. Роботы и 3D-принтеры уже заменяют рабочих в ранее ручных производствах типа пошива мужских сорочек, а «многоумные» алгоритмы так же поступят с «белыми воротничками». В зону риска попали банковские клерки и турагенты, которые еще совсем недавно казались застрахованными от автоматизации. Сколько понадобится турагентов, если мы будем с помощью смартфона покупать билеты и заказывать отели у алгоритма?

Трейдеры фондовой биржи тоже в опасности. Финансовый трейдинг уже сейчас осуществляется в основном компьютерными алгоритмами, которые за секунду обрабатывают больше данных, чем человек за год, и реагируют на полученную информацию быстрее, чем мы успеваем моргнуть. 23 апреля 2013 года сирийские хакеры взломали официальный Twitter-аккаунт агентства Ассошиэйтед Пресс. В 13:07 они разместили в нем твит, что Белый дом взорван, президент Обама ранен. Торговые алгоритмы, осуществляющие постоянный мониторинг новостных лент, среагировали мгновенно и начали как сумасшедшие скидывать акции. Индекс Доу-Джонса вошел в пике и за шестьдесят секунд упал на 150 пунктов, что равносильно потере 136 миллиардов долларов! В 13:10 Ассошиэйтед Пресс сообщило, что твит был фейком. Алгоритмы дали обратный ход, и к 13:13 Доу-Джонс отыграл почти все свои потери.

Тремя годами раньше, 6 мая 2010 года, Нью-Йоркская фондовая биржа пережила даже более острый шок. В течение пяти минут – с 14:42 до 14:47 – индекс Доу-Джонса упал на тысячу пунктов, вызвав потери в триллион долларов. Затем он вновь подскочил, вернувшись на прежний уровень чуть больше чем за три минуты. Вот что происходит, когда сверхбыстрые компьютерные программы распоряжаются нашими финансами. Эксперты по сей день гадают, чем был вызван этот так называемый «мгновенный обвал». Они знают, что виной всему – алгоритмы, но до сих пор не могут понять, где именно произошел сбой. Некоторые американские трейдеры возбуждают дела против алгоритмического трейдинга, утверждая, что он дискриминирует людей, которые просто не в состоянии реагировать так же быстро. Прения о том, действительно ли это является нарушением прав человека, еще надолго обеспечат адвокатов работой и гонорарами[215].

И этими адвокатами не обязательно будут люди. Благодаря фильмам и телесериалам господствует представление, что адвокаты не вылезают из судов, где или кричат «Протестую!», или произносят страстные речи. На самом деле рядовые адвокаты проводят дни напролет в изучении дел, поиске прецедентов, лазеек и крупиц потенциально важных свидетельств. Кто-то пытается разгадать, что случилось в ночь убийства, кто-то составляет многостраничный бизнес-контракт, призванный застраховать клиента от любой мыслимой и немыслимой случайности. Какова будет участь всех этих адвокатов, когда умные поисковые алгоритмы смогут за день находить столько прецедентов, сколько человеку не найти за всю жизнь, а сканеры головного мозга будут разоблачать жульничество и обман за секунду? Даже многоопытным адвокатам и детективам нелегко распознать фальшь по выражению лица и интонации голоса. Однако ложь и правда активизируют разные области мозга. Хотя мы еще только на подходе, но уже очевидно, что в недалеком будущем фМРТ-сканеры получат применение как почти идеальные детекторы правды. Куда тогда податься миллионам адвокатов, судей, полицейских и детективов? Им, пожалуй, придется переучиваться, осваивать другие профессии[216].