Технологии против человека - Герд Леонгард

Если, конечно, у вас нет неограниченных ресурсов для установки системы, покупки или создания поддельных цифровых личностей, получения доступа к одному из этих действительно дорогих пищевых 3D-принтеров или источникам продовольствия на черных сетевых рынках, таких как Молочный путь – преемник сайта черного рынка Шелкового пути начала XXI века.

Но, как мы теперь знаем, значимость свободы воли всегда переоценивали!

В 2028 году наша жизнь стала отслеживаться, управляться и курироваться; свободная воля и свободный выбор стали прерогативой сверхбогатых.

2030: 90 – это новые 60

К 2030 году технологии и фармацевтика почти полностью объединились. Самые серьезные болезни человечества, включая рак, диабет, болезни сердца и СПИД, решаются с помощью передовой биоинженерии. В настоящее время мы очень редко принимаем таблетки для лечения болезней, в том числе серьезных; вместо этого мы все чаще используем технологии и генетическое редактирование для наблюдения, прогнозирования и предотвращения возникновения заболеваний.

Мы проанализировали ДНК миллиардов «подключенных» людей с помощью облачной биологии и квантовых вычислений и теперь можем с большой уверенностью определить, какой именно ген отвечает за возникновение какого именно заболевания. Еще через пять лет мы сможем предотвратить рак.

Долголетие стало обычным делом, полностью изменив и наши социальные системы. Из-за того, что большинство из нас может жить здоровой жизнью до 90 лет, и из-за того, что роботы и программное обеспечение выполняют большую часть тяжелой работы для нас, мы можем потратить наше время, помогая следующим поколениям понять прошлое и открыть будущее. Из-за того, что гарантия базового дохода была учреждена во многих городах и странах, нам не нужно беспокоиться о выходе на пенсию или зарабатывать на жизнь, как наши отцы и матери.

К 2030 году общество становится старше, здоровее, освобождается от работы и обретает смысл.

Адский рай – неизбежный путь?

Будущее – что же нам не понравится? Варианты развития событий правдоподобны – и немного консервативны по сравнению с технологически прогрессивными видениями и стремлениями. Технология выиграла войну с человечеством, которая, возможно, не была войной вообще. Существует ли потребность в старомодных человеческих ценностях и умении извлекать пользу из неожиданных обстоятельств, когда риски и недостатки жизни искореняются на такой головокружительной скорости?

Если человечество наконец будет контролировать свое собственное будущее, кто же станет мечтать о другом будущем?

Пришло время выбирать свою команду.

На написание этой книги меня вдохновили работы огромного количества людей, выразивших аналогичные опасения, и я могу только надеяться, что эта книга поможет сосредоточить внимание мирового сообщества на вопросах о цели и этике технологий – и этике тех, кто их изобретает и продвигает.

Люди и технологии все чаще пересекаются, сближаются или даже сходятся – выбор слов во многом зависит от того, как вы относитесь к этому факту. В любом случае, как было сказано в самом начале этой книги, вот в чем я не сомневаюсь: я уверен, что человечество, скорее всего, больше изменится за следующие 20 лет, чем за предыдущие 300.

Грядущее слияние человека и машины принесет человечеству удивительные победы и одновременно станет угрозой. Теперь нам необходимо намного осторожнее распоряжаться нашими изобретениями и их последствиями, если мы хотим процветать.

Да, технологический прогресс кажется неудержимым, потому что в природе людей – колдовать, тестировать и направлять нашу технику (наши инструменты). И наконец, мы достигли точки, когда ориентированные на человека политика и стандарты, цифровая этика, социальные контракты и глобальные соглашения о гуманизации этих экспоненциальных технологий будут столь же важны, как и договоры о нераспространении ядерного оружия.

В самом ближайшем будущем речь уже будет идти не о том, могут ли технологии что-то сделать (ответ почти всегда будет положительным), но о том, должны ли они что-то делать и зачем.

Опасность заключается в том, что если мы не будем тратить столько времени и ресурсов на андроритмы (на те качества, которые делают нас людьми), сколько мы тратим на алгоритмы, то технологии в конечном итоге не только будут управлять нашей жизнью, но и нас самих также вынудят, обманом или иным образом, стать технологиями. Мы станем «инструментами для наших инструментов».

Обратите внимание, что под «технологиями, управляющими нашей жизнью» я не имею в виду роботов-повелителей Terminator Genisys200. Скорее, я обеспокоен тем, что мы скоро можем стать совершенно бесполезными без технологий: медленными, несовершенными, тупыми, убогими, ленивыми и страдающими ожирением.

Представьте себе, что произойдет, если мы продолжим искоренять и в конечном счете устраним главные человеческие качества, такие как конфиденциальность, тайна, анонимность, эмоции, спонтанность, удивление, интуицию, воображение и духовность – только для того, чтобы мы могли идти в ногу с машинами.

Если мы не хотим сами стать технологиями; если не хотим слиться в мощный вихрь, созданный мегасдвигами; если хотим оставаться «естественными людьми», несмотря на мощные приманки волшебных технологий; если хотим сохранить то, что действительно делает нас счастливыми, а не только то, что заставляет функционировать, мы должны принять меры, пока еще есть пространство для маневра. Пришло время!

Мы должны прежде всего задать вопрос «зачем», после – «кто» и «почему», а не только «если» и «как». Необходимо думать о цели, а не только о прибыли. Мы должны все чаще задавать вопросы лидерам отрасли и особенно технологам и фирмам, которые их нанимают. Мы должны заставить их всех принять более целостный подход, рассмотреть как хорошие, так и не очень хорошие последствия того, что они предлагают. Мы должны также попросить их признать эти непредвиденные последствия и принять меры, а также включить внешние факторы, которые они создают, в свои бизнес-планы и модели доходов.

Мы должны на каждом шагу призывать к ответственности создателей и финансистов завтрашнего дня – и, конечно же, нас самих, как пользователей и потребителей. Нам нужно начать отказываться быть клиентами тех компаний, которым это все безразлично, и мы должны перестать быть контентом для тех платформ, которые стремятся автоматизировать нас. Мы должны перестать быть молчаливыми участниками машинного мышления, потому что все остальное не так удобно.

Если мы не хотим положить конец тому, что я называю сожалением Оппенгеймера, названным в честь известного физика Дж. Роберта Оппенгеймера, чьи изобретения сделали атомную бомбу реальностью и кто потом пожалел о своих действиях и их последствиях, – мы должны взять на себя обязательство быть в «команде людей», чтобы поставить человечество на первое место и выше всего остального.

Поэтому я предлагаю попытаться сформулировать несколько основополагающих правил для этой грядущей эпохи машин, определив, какие технологии, вероятно, будут способствовать процветанию человека и поэтому должны применяться, а какие – нет. Мы должны также чаще задавать вопросы «когда, почему и кто» и думать о том, кто в действительности будет контролировать соблюдение этих правил.