Технологии против человека - Герд Леонгард

Предполагается, что облачная виртуализация может обеспечить до 90 % экономии средств63. Вместо того чтобы отправлять печатные книги адресатам по всему миру, Amazon создает виртуальный магазин и отправляет файлы читателям на их электронные книги. Таким же образом мы скоро виртуализируем процесс доставки. Представьте, сколько можно будет сэкономить, если 3D-принтер сможет распечатать вам чехол для iPhone прямо в гостиной, и все, что от вас потребуется, – это выбрать дизайн. Представьте себе 3D-принтер в будущем: он сможет напечатать даже самые сложные товары, состоящие из сотен различных материалов, прямо в вашем любимом торговом центре – все от кукол барби до кроссовок.

Виртуализации сопутствует децентрализация, так как у нас нет нужды в центральном распределительном пункте, если продукт доступен в облачном сервисе. Для работы программно-конфигурируемых сетей не нужны будут провода: включение и выключение можно будет производить дистанционно, что также позволит во многом сэкономить. Однако вместе с децентрализацией и виртуализацией активов возникает вопрос о безопасности, так как становится меньше точек физического контроля64. Это открывает большие возможности для инновационных компаний, но представляет серьезные трудности для правительства и политиков. Как мы договоримся о правилах поведения и нормах цифровой этики в этой новой технологической реальности?

В ближайшем будущем виртуализация распространится на банковское дело, финансовые услуги, здравоохранение и фармацевтику, в особенности на разработку лекарств. Цифровая терапия дополнит или даже заменит традиционную медицину, предлагая лечение с помощью поведенческих модификаций, чтобы минимизировать или полностью ликвидировать проблему со здоровьем. Другой впечатляющий пример – облачная биология, где компьютерные программы могут поглощать данные, полученные в лаборатории, и соединять их с другими данными, чтобы ускорить процесс нахождения новых формул лекарств. Теперь представьте экспоненциальный эффект, который произведет соединение виртуализации с другими мегасдвигами. Виртуальные облачные роботы смогут ускорить любой процесс и обеспечить его надежность, также как оцифровывание поведенческих изменений сможет стать альтернативой лекарствам65.

Становится очевидно, что именно виртуализация приведет к конфликту человека и технологий, который заключается в потере рабочих мест, высокой вероятности того, что «программы скоро съедят биологию», и во все возрастающем искушении виртуализировать людей с помощью загрузки сознания[47] (brain uploading) или киборгизации, что является мечтой многих трансгуманистов66.

Мегасдвиг 9: цифровые предсказатели

Компьютерам очень хорошо удается угадывать наши будущие нужды, когда мы сами еще их не сознаем. Google Now и Google Home – умные цифровые помощники от Google, часть ориентации компании на ИИ. Они смогут предвидеть любые изменения в вашем распорядке дня (задержка самолета, пробки, встречи, которые длятся дольше, чем планировалось) и использовать эту информацию, чтобы предупредить участников следующей встречи, что вы задержитесь, или даже забронировать более подходящие билеты на самолет67.

Способы предупреждения преступности, основанные на алгоритмах, набирают популярность среди сотрудников правоохранительных органов. Эти программы используют большие массивы данных: статистику преступлений, социальные сети, геолокацию мобильных телефонов и транспортные данные – для определения места потенциального преступления, с тем чтобы полиция могла находиться поблизости и предотвратить его в случае необходимости. В ряде случаев, похожих на ситуацию с провидцами из фильма «Особое мнение»[48], 68, некоторых людей навещали социальные работники или сотрудники полиции, так как система показывала, что они с большой вероятностью способны совершить преступление.

Представьте, какие обороты примет эта ситуация, когда интернет вещей распространится повсюду, соединяя сотни миллиардов предметов: светофоры, автомобили, устройства экологического мониторинга. Представьте упреждающий, предсказательный потенциал, когда у нас появятся инструменты, с помощью которых ИИ сможет разобраться во всех этих данных. При разработке лекарств ИИ, работающий на квантовом компьютере, смог бы наметить триллионы молекулярных комбинаций, моментально выбрать те, которые подходят для лечения, и даже предотвратить начало болезни.

Представьте, что случится, когда банкноты и монеты станут цифровыми, и любую, даже самую маленькую покупку можно будет отследить – эффективно, но явно нарушая границы частной жизни. Что это – выгодные технологические трансформации или «дивный новый мир»?[49]

Несмотря на заманчивые перспективы, которые, казалось бы, открывают опережающие технологии, я вижу в этом определенные этические проблемы, которые только растут, и вот основные из них:

• Зависимость – поручать программам и алгоритмам думать за нас, потому что это гораздо удобнее и быстрее.

• Неопределенность – не знать, кто ответил мне на электронное письмо – сам человек или его ИИ-помощник. Или даже не быть уверенным в том, сам ли я принял решение или мой умный помощник мной манипулировал.

• Потеря контроля – невозможность узнать, являются ли предсказания ИИ истинными или нет, потому что мы не можем отследить логику системы или понять, как работает система машинного обучения на квантовом компьютере. Другими словами, нам придется либо полностью ему доверять, либо не доверять вообще – дилемма, схожая с той, с которой сталкиваются летчики при виде автопилота.

• Отречение – поддаться искушению оставлять как можно больше задач для ИИ, который сделает все за нас: спланирует расписание, назначит встречи, ответит на простые электронные письма. В таком случае, если что-то пойдет не так, будет очень легко обвинить во всем облако, бота или ИИ.

Мегасдвиг 10: роботизация

Роботы – это воплощение всех мегасдвигов в одном механизме, где они консолидируются, и на выходе получается удивительные новые создания, которые скоро будут повсюду, нравится нам это или нет. Благодаря значительным прорывам в понимании естественного языка и распознавании изображений, растущей мощности аккумуляторов и появлению новых материалов, которые гарантируют улучшение навыков движения, мы можем ожидать падения цен на роботов, в то время как польза от них будет стремительно расти.