Homo Deus. Краткая история будущего - Юваль Ной Харари

В XXI веке чувства уже не являются самыми совершенными алгоритмами. Мы разрабатываем более изощренные алгоритмы, которые используют беспрецедентные вычислительные мощности и гигантские базы данных. Алгоритмы Google и Facebook прекрасно осведомлены не только о вашем самочувствии, но и о мириадах других относящихся к вам вещей, о которых вы вряд ли подозреваете. Поэтому вы должны будете перестать полагаться на себя и начать полагаться на эти внешние алгоритмы. Зачем устраивать демократические выборы, если алгоритмы знают не только как проголосует каждый избиратель, но и по каким неврологическим причинам один голосует за демократов, а другой за республиканцев? Если гуманизм повелевал: «Слушайся своих чувств!», – датаизм повелевает: «Слушайся алгоритмов! Они знают, что ты чувствуешь».

Когда вы ломаете голову, на ком жениться, какую профессию выбрать, ввязываться ли в войну, датаизм говорит вам, что медитация на вершине и созерцание опускающегося в море солнца будут пустой тратой времени. Также бесполезно бродить по музеям, изливать душу в личном дневнике или вести сердечные беседы с другом. Да, чтобы принимать правильные решения, вы должны себя познать. Но в XXI веке для этого есть гораздо лучшие методы, чем лазанье по горам, хождение по музеям и ведение дневников. Вот некоторые практические рекомендации датаизма.

«Вы хотите узнать, что реально представляете собой? – спрашивает датаизм. – Тогда забудьте о горах и музеях. Вы секвенировали свою ДНК? Нет?! Чего же вы ждете? Сделайте это сегодня же. И убедите своих бабушек и дедушек, родителей, братьев и сестер, чтобы и они секвенировали свои ДНК, – эти данные чрезвычайно важны для вас. И вы, наверно, слышали о носимых на теле биометрических устройствах, измеряющих ваши давление и частоту пульса двадцать четыре часа в сутки? Купите одно из них, наденьте и подсоедините к своему смартфону. А заодно купите мобильную камеру и микрофон – фиксируйте каждый свой шаг, живите online. И не противьтесь тому, чтобы Google и Facebook читали все ваши имейлы, мониторили все ваши чаты и сообщения и вели учет всех ваших лайков и кликов. Если вы будете все это исполнять, тогда великие алгоритмы Интернета Всех Вещей укажут вам, на ком жениться, какую профессию выбрать и ввязываться ли в войну».

Но откуда берутся эти великие алгоритмы? Это тайна да-таизма. По примеру христианства, согласно которому нам не дано постичь Бога и Его замысел, датаизм объявляет, что человеческий мозг не способен осмыслить новые алгоритмы высшего порядка. В наши дни алгоритмы, конечно, в основном пишут программисты. Но действительно важные алгоритмы – такие, как поисковый алгоритм Google, – разрабатываются огромными коллективами. Каждый из разработчиков имеет представление лишь о своем фрагменте пазла, и никто по-настоящему не понимает алгоритм в целом. Более того, с возникновением машинного обучения и искусственных нейронных сетей увеличивается число алгоритмов, которые развиваются самостоятельно, самосовершенствуются и извлекают уроки из собственных ошибок. Они анализируют огромные объемы данных, с которыми не справиться ни одному человеку, и учатся распознавать образы и выбирать стратегии, непостижимые для человеческого ума. Исходный алгоритм может быть придуман людьми, но далее, развиваясь, он идет своей дорогой, направляясь туда, где не ступала нога человека. Туда, куда путь человеку заказан.

У датаизма, конечно же, есть свои критики и еретики. Как мы видели в третьей главе, очень сомнительно, чтобы всю жизнь можно было свести к потокам данных. В частности, мы пока понятия не имеем, как и почему потоки данных трансформируются в сознание и субъективные переживания. Может, лет через двадцать у нас появится полноценное объяснение. А может, мы обнаружим, что организмы и не алгоритмы вовсе.

Также сомнительно, чтобы жизнь можно было свести исключительно к принятию решений. Под влиянием датаизма и естественные, и общественные науки зациклились на процессах принятия решений, как будто в жизни нет ничего другого. Но так ли это? Ощущения, эмоции и мысли, конечно же, играют в принятии решений существенную роль, но только ли в этом их смысл? Датаизм все глубже и глубже вникает в процессы принятия решений, однако не исключено, что он воспринимает жизнь все более искаженно.

Критическое исследование датаистической догмы должно стать не только величайшим научным вызовом XXI века, но и самым актуальным политическим и экономическим проектом. Естественники и обществоведы обязаны спросить себя, не упускаем ли мы чего-то, ограничивая жизнь обработкой данных и принятием решений. Может быть, во Вселенной есть сущности, которые нельзя свести к данным? Предположим, лишенные сознания алгоритмы сумеют обойти сознательный интеллект во всем, что касается обработки данных, – а вдруг при замене сознательного интеллекта лишенными сознания алгоритмами мы утратим что-то очень важное?

Даже если датаизм не прав и организмы не есть алгоритмы, это не обязательно помешает ему завладеть миром. Многие предшествующие религии завоевали огромную популярность и власть, несмотря на фактологическую несостоятельность. Если это удалось христианству и коммунизму, то почему не удастся датаизму? У датаизма хорошие перспективы, так как сейчас он проникает во все научные дисциплины. Единая научная парадигма способна легко обернуться непререкаемой догмой. Очень трудно оспаривать любую научную парадигму, но до сих пор ни одна из них не принималась научным сообществом в целом. Ученые отдельно взятой специальности всегда могли позаимствовать еретические взгляды у коллег другой специальности. Если же все, от музыковедов до биологов, будут пользоваться единой датаистической парадигмой, междисциплинарные заимствования будут лишь способствовать ее усилению. Так что ошибочна эта парадигма или верна, противостоять ей в любом случае будет невероятно трудно.

Если датаизму удастся покорить мир, что случится с нами, людьми? Поначалу датаизм, вероятно, активизирует гуманистическую погоню за здоровьем, счастьем и властью. Он и распространяется именно благодаря обещаниям осуществить эти человеческие мечты. Чтобы обрести бессмертие, счастье и божественную силу созидания, нам необходимо обрабатывать огромный вал информации, неизмеримо превышающий возможности человеческого мозга. Поэтому алгоритмы должны будут обрабатывать его за нас. Но, когда полномочия перейдут от людей к алгоритмам, гуманистические проекты могут утратить актуальность. Раз мы отвергаем гомоцентричное мировоззрение в угоду датацентричному, человеческое здоровье и счастье могут утратить свое значение. Чего так носиться с устаревшими механизмами обработки данных, если уже существуют гораздо более продвинутые модели? Мы стремимся создать Интернет Всех Вещей в надежде, что он сделает нас здоровыми, счастливыми и могущественными. Но когда Интернет Всех Вещей обретет силу, люди могут превратиться из инженеров в чипы, из чипов в биты и в конце концов растаять в стремнине данных, как ком земли, брошенный в бурную реку.

Таким образом, датаизм грозит сотворить с Человеком Разумным то, что Человек Разумный сотворил со всеми прочими животными. На протяжении всей истории люди плели глобальную сеть и оценивали каждую вещь в соответствии с ее ролью в функционировании этой сети. Тысячи лет этим питались их гордость и предубеждения. Поскольку главенствующую роль в сети играли люди, им было легко приписывать себе ее успехи и считать себя венцом творения. Жизнь и переживания всех других животных ценились мало, потому что их функции были менее важными. И всякий раз, как животное переставало выполнять свою функцию, оно было обречено на исчезновение. Но стоит нам, людям, утратить нашу функциональную значимость для сети, как мы тотчас обнаружим, что вовсе не являемся венцом творения. Созданные нами же критерии спишут нас в вечность следом за мамонтами и китайскими речными дельфинами. И задним числом выяснится, что человечество было просто пеной в бурлящем космическом потоке данных.