Технологии против человека - Герд Леонгард

Кто же будет решать, что есть человек, когда в нашей крови будут плавать наноботы, а в мозгу будут установлены коммуникационные импланты? Если у технологий нет и не должно быть этики, что тогда случится с нашей моралью, нормами поведения и социальными договоренностями, когда машины будут управлять всем вместо нас?

Несмотря на заверения ИИ-евангелистов[17], я считаю, что в обозримом будущем машинный интеллект не будет снабжен эмоциональным интеллектом для решения этических дилемм, потому что машины – не живые существа, а дупликаты и симуляторы.

Разумеется, по прошествии некоторого времени машины научатся считывать, анализировать и, возможно, даже понимать наши системы ценностей, социальные контракты, мораль и верования – но они никогда не смогут стать частью этого мира и существовать в нем так, как в нем существуем мы (что немецкие философы называют бытием-в-мире (dasein)).

Но все же будем ли мы жить в мире, где данные и алгоритмы восторжествуют над тем, что я называю андроритмами, – всем тем, что делает нас людьми? (Далее в книге я подробно объясню, что я понимаю под андроритмами.)

Последовательные удвоения от 4 до 8 и от 16 до 32 имеют весьма разное абсолютное приращение по сравнению с удвоениями от 0,1 до 0,8. Сегодня это наш самый главный вызов: мы должны представить экспоненциально иное будущее и стать его проводниками, несмотря на то что его сложность может стать выше нашего понимания. Для этого нам придется определенным образом развивать в себе экспоненциальное воображение.

Сначала постепенно, а потом сразу

Наилучшим объяснением сути экспоненциального роста мне представляется цитата из произведения Эрнеста Хемингуэя «И восходит солнце»:19

Размышляя о создании будущего, необходимо держать в голове эти мемы-близнецы: один – про экспоненциальность, и второй – про «постепенно, а потом сразу». Оба они являются ключевыми понятиями в этой книге. Постепенно мы станем замечать робкие предзнаменования больших возможностей или большой угрозы. А затем они либо вдруг сразу исчезнут, либо останутся здесь, сейчас и в гораздо больших масштабах, чем мы предполагали. Солнечная энергия, беспилотные автомобили, цифровая валюта, блокчейн – очень долгое время ушло на их развитие, но вот они здесь, переживают колоссальный подъем.

История учит нас, что те, кто слишком медленно приспосабливаются или не в состоянии предусмотреть опасность, будут вынуждены нести ответственность за последствия этого.

Если мы будем продолжать и дальше ждать у моря погоды, то скоро заметим, как станем ненужными, устареем, а затем и вовсе исчезнем. Поэтому нам нужна другая стратегия, чтобы сохранить нашу человечность в этом быстро меняющемся мире.

Рынок уже не сможет разрешить сложившуюся ситуацию посредством «невидимой руки». Открытые рынки, регулируемые ростом и прибылью, неизбежно приведут к обострению проблем между людьми и технологиями, так как прибыль, получаемая от продажи последних, оценивается в триллионы долларов в год. Разумеется, перед лицом такой многообещающей возможности для бизнеса никто не остановится перед замещением человеческих проявлений технологиями.

Питер Диамандис, член совета Human Longevity Inc.[18], утверждает, к примеру, что увеличение продолжительности жизни приведет к увеличению доли глобального рынка США до 3,5 триллиона долларов20. Такие незначительные проблемы, как сохранение человечности, вряд ли станут препятствием на пути осуществления этих умопомрачительных возможностей.

За пределами управляемости

В конце концов, речь идет о выживании и процветании всего человечества, и я не думаю, что венчурные капиталисты, фондовые рынки и военные вправе распоряжаться ими по собственному усмотрению.

В ближайшем будущем мы станем свидетелями мировоззренческих сражений обладателей различных экономических интересов, что-то вроде противостояния гуманистов и трансгуманистов[19]. Сейчас нефть и прочие ископаемые виды топлива истощаются и прекращают быть главной причиной столкновения международных военных интересов, и США и Китай уже готовятся запустить технологическую гонку вооружений.

Новые войны будут цифровыми, и битвы в них будут вестись за лидерство в экспоненциальных областях, таких как ИИ, изучение генома, интернет вещей, цифровая безопасность и цифровое оружие. Страны Европы (и особенно Швейцарию) в сложившейся ситуации больше волнуют вопросы о высоком: права человека, счастье, этика, сохранение баланса и устойчивое коллективное благосостояние. Мне представляется, что изучение этих проблем также открывает большие возможности для Европы, и далее в книге я остановлюсь на них подробнее.

Огромное количество ученых, лидеров общественного мнения, венчурных капиталистов и различного рода технических гуру (в т. ч. и футурологов) выступают за быстрый и добровольный отход от гуманизма.

Эти фанаты технического прогресса призывают «преодолеть человека» и радостно вступить на следующую ступень эволюции – слить воедино биологию и технологии, модифицировать и возвысить наш ум и тело, стать сверхлюдьми, уничтожить болезни (хорошо) и смерть – заманчивая и странная перспектива.

Интерес к трансгуманизму все возрастает, но мне он кажется наиболее опасным явлением из всех, что я как футуролог мог наблюдать за последние пятнадцать лет. Достижение счастья для людей путем полного растворения их же человеческой сущности в новых технологиях кажется довольно бредовой идеей.

Золтан Иштван, защитник трансгуманизма и кандидат в президенты США 2016 года, и философ Джесси И. Бейли[20] высказывают следующие противоположные взгляды по данному вопросу.

Сторонник. Иштван пишет следующее в своем романе «Ставка на трансгуманизм» (2013):