Homo Deus. Краткая история будущего - Юваль Ной Харари

И это только начало. В Соединенных Штатах сегодня значительная часть читателей предпочитает электронные книги бумажным. Такие устройства, как Amazon Kindle, собирают сведения о своих пользователях, пока те читают. Ваш Kindle, например, запоминает, какие части книги вы прочитываете быстро, а какие медленно; на какой странице вы сделали перерыв и на каком месте перестали читать и больше не возвращались. Если встроить в Kindle систему распознавания лиц и биометрические сенсоры, он будет знать, как каждое прочитанное предложение повлияло на ваши пульс и давление. Он будет знать, что вас рассмешило, что опечалило и что разозлило. Очень скоро книги будут читать вас, пока вы читаете их. И если вы быстро забываете большинство деталей прочитанного, то Amazon не забудет никогда и ничего. Такая осведомленность позволит ему подбирать для вас книги со снайперской точностью. Еще она позволит ему точно знать, кто вы и как вас включать и выключать[249].

Велика вероятность, что в конце концов настанет момент, когда мы не сможем отключиться от этих всезнающих сетей даже на мгновение. Отключение будет означать смерть. Если надежды медиков осуществятся, люди будут носить в своих телах массу биометрических устройств, бионических органов и нанороботов, призванных следить за нашим здоровьем и беречь нас от инфекций, болезней и повреждений. Однако этим устройствам придется быть онлайн в режиме 24/7, чтобы постоянно сверяться с последними медицинскими разработками и защищаться от новых угроз киберпространства. Вирусы, черви и трояны, без устали атакующие ваш домашний компьютер, не пощадят и ваш кардиостимулятор или слуховой аппарат. Если не обновлять регулярно свою антивирусную защиту, то в один прекрасный день можно обнаружить, что миллионы нанороботов, курсирующих по венам, уже под контролем какого-нибудь хакера.

Таким образом технологии XXI века могут подорвать гуманистическую революцию, лишив власти людей и наделив ею неорганические алгоритмы. Пусть те, кого ужасает подобная перспектива, не винят компьютерных гиков. На самом деле ответственность лежит на биологах. Важно понимать, что все это направление больше вдохновляется и подпитывается новыми биологическими знаниями, чем компьютерными науками. Именно биология пришла к заключению, что организмы суть алгоритмы. Если это не так – если функционирование организмов по существу отлично от функционирования алгоритмов, – значит, компьютеры могут творить чудеса в других областях, но им никогда не удастся нас понять и регламентировать нашу жизнь, а тем более слиться с нами. Но когда биологи заключили, что организмы – это алгоритмы, они сломали стену между органическим и неорганическим, превратили компьютерную революцию из чисто технического мероприятия в биологический катаклизм и передали права и полномочия отдельных личностей сетевым алгоритмам.

Некоторые люди пребывают в ужасе. Вместе с тем миллионы принимают происходящее с радостью. Уже сегодня многие из нас отказываются от своих конфиденциальности и индивидуальности, выставляя в интернете напоказ всю свою жизнь, записывая каждое свое действие и впадая в истерику, если связь на несколько минут прервалась. Переход прав от людей к алгоритмам совершается повсеместно, и не по постановлениям правительств, а в результате того выбора, который каждый день делают многие из нас.

Если мы не проявим осторожности, то можем получить оруэлловское полицейское государство, неустанно надзирающее не только за всеми нашими поступками, но и за тем, что происходит внутри наших тел и мозгов. Только представьте себе, какое применение вездесущим биометрическим сенсорам нашел бы Сталин – и, может, успеет найти Путин. Но в то время как защитники человеческой индивидуальности страшатся повторения кошмаров XX века и готовятся противостоять знакомому по Оруэллу врагу, ей грозит даже более серьезная опасность с противоположной стороны. В XXI веке личность скорее тихо разложится изнутри, чем будет разрушена усилиями извне.

Сегодня большинство корпораций и правительств выказывают заботу о моей индивидуальности и обещают лечить, учить и развлекать меня в соответствии с моими уникальными вкусами и потребностями. Но для этого корпорациям и правительствам сначала придется разложить меня на биохимические подсистемы, исследовать эти системы сверхчувствительными датчиками и дешифровать их работу при помощи мощных алгоритмов. В процессе выяснится, что личность – всего лишь религиозная фантазия. Реальностью окажется сеть биохимических и электронных алгоритмов без индивидуальных ядер и четких границ.

До сих пор мы рассматривали две из трех угроз либерализму: первая заключается в том, что люди полностью утратят свою ценность; вторая – в том, что люди сохранят свою коллективную ценность, но потеряют личные права и попадут в подчинение к внешним, неорганическим алгоритмам. Вы по-прежнему будете сочинять симфонии, преподавать историю, писать компьютерные коды, однако система будет знать вас лучше, чем знаете себя вы сами, и поэтому большинство важных решений станет принимать за вас – причем к вашему удовольствию. Это не обязательно будет плохой мир, но это будет мир постлиберальный.

Третья угроза либерализму заключается в том, что останутся те, кого нельзя будет ни заменить, ни расшифровать, но они образуют малочисленную привилегированную элиту усовершенствованных людей. Эти сверхчеловеки будут обладать неслыханными способностями и беспрецедентным креативным потенциалом, что позволит им по-прежнему принимать многие из самых важных для всего мира решений. Они будут предоставлять системе важнейшие услуги, в то время как система не сможет ни понимать их, ни управлять ими. Однако подавляющее большинство людей не будут усовершенствованы и, следовательно, станут низшей кастой, подчиненной как компьютерным алгоритмам, так и новым сверхлюдям.

Разделение человечества на биологические касты сокрушит основы либеральной идеологии. Либерализм прекрасно сосуществует с социально-экономическими контрастами. Он воспринимает их как неизбежность, так как ценит свободу выше равенства. Однако либерализм все же предполагает, что все человеческие существа равноценны и равноправны. С либеральной точки зрения абсолютно нормально, что есть миллиардеры, живущие в роскошных дворцах, и есть бедные крестьяне, ютящиеся в лачугах. Ведь согласно либерализму уникальные переживания крестьянина не менее ценны, чем переживания миллиардера. Вот почему либеральные писатели пишут длинные романы о переживаниях бедных крестьян – и почему миллиардеры увлеченно читают эти романы. Если вы отправитесь смотреть «Отверженных» на Бродвей или в Ковент-Гарден, то обнаружите, что стоимость хороших мест измеряется сотнями долларов, а совокупный достаток зрителей, возможно, и миллиардами, но они сочувствуют Жану Вальжану, который провел девятнадцать лет в тюрьме за то, что украл каравай хлеба, чтобы накормить голодных племянников.

Та же логика действует в день выборов, когда голос бедного крестьянина весит ровно столько же, сколько голос миллиардера. Либерализм решает проблему социального неравенства, уравнивая в цене опыт переживаний разных людей вместо того, чтобы обеспечить всем одинаковые переживания. Но будет ли это решение работать, когда богатых и бедных будет разделять не только имущественная, но и реальная биологическая пропасть?