Технологии против человека - Герд Леонгард

Благополучие человека должно стать целью

В частности, обсуждая будущее технологий, я чувствую, что благополучие, то есть состояние комфорта, здоровье или счастье, становится ключевым словом. Благополучие подразумевает более целостный подход, который выходит за рамки измерения функций нашего организма, наших умственных вычислительных способностей, или количества синапсов в нашем мозге. Он выражает воплощение, контекст, своевременность, связанность, эмоции, духовность и тысячу других вещей, которые нам еще предстоит объяснить или даже понять. Благополучие не алгоритмическое – оно андроритмическое, основанное на таких сложных вещах, как доверие, сострадание, эмоции и интуиция.

Технологии часто отлично справляются с созданием так называемых прекрасных моментов, например, таких как возможность позвонить любимому человеку в любом месте когда угодно. Однако благополучие – это то, что в значительной степени превосходит технологическое упрощение. Погрузившись в интернет-предпринимательство и занимаясь цифровыми музыкальными стартапами уже почти десять лет, только после неожиданного развала моего предприятия dotcom в 2002 году я понял, что целостное благополучие действительно происходит от отношений, от смысла, от цели и от контекста. Счастье не может быть автоматизировано!

Могут ли технологии производить счастье?

Экспоненциальные технологии, такие как ИИ, несомненно, будут пытаться создать условия, способствующие возникновению человеческого счастья или даже благополучию. Кто-то будет также активно стремиться производить его для нас – или, по крайней мере, его цифровое подобие. Всё чаще говорят, что счастье может быть запрограммировано или иным образом организовано или координировано при помощи очень умных технологий. Ключевым аргументом техно-прогрессивных мыслителей является то, что быть счастливым – это всего лишь результат того, что правильные виды нейронов срабатывают в нужное время, в правильном порядке. Они рассуждают, что счастье – это все просто биология, химия или физика, а значит, оно может быть понято, изучено и полностью скопировано компьютерами.

Может быть, мы сможем создать своего рода машину счастья, которая будет управлять нами, контролировать и программировать нас и нашу среду обитания. Может быть, есть приложение для этого – или, по крайней мере, должно быть! Взгляните на www.happify.com, чтобы увидеть, что идея организации счастья уже продается – это программный инструмент, который учит вас счастью! Можно только представить себе, что может произойти к 2025 году – приложение, которое будет напрямую связано с нашим мозгом через нейрокомпьютерный интерфейс или через крошечные импланты, чтобы быть уверенным, что мы все время счастливы и – главное – мы все время потребляем счастье!

Иногда мне кажется, что предприниматели, преследующие эти амбициозные цели, думают, что человеческие эмоции, ценности и убеждения должны быть подвержены еще более экспоненциальному прогрессу в STEM. Логическое обоснование, по-видимому, заключается в том, что как только мы продвинемся по этому пути достаточно далеко, все это будет подлежать программированию нами, в том числе (как вы догадались) мы сами. Тогда мы наконец избавимся от наших биологических ограничений и станем действительно универсальными существами – жду не дождусь!

Боты настроения и технологические удовольствия

Технологии уже способны создавать, программировать или управлять приятными для нас моментами (т. е. гедоническим счастьем), и это бизнес, который, безусловно, будет на подъеме в ближайшем будущем. Это уже происходит в ленте новостей Facebook, которая отображает только то, что вам нравится и заставляет хорошо себя чувствовать. Это происходит в сфере электронной торговли на сайтах, которые нанимают полчища нейробиологов для разработки новых цифровых механизмов мгновенного удовлетворения. Это делается в сфере здравоохранения с ноотропами (так называемыми умными лекарствами и когнитивными усилителями), которые должны максимально развить ваши умственные способности.

И вскоре это воплотится в жизнь посредством очень умелого манипулирования нашими чувствами с помощью контроля за жестами и голосом во время разговоров, которые мы будем вести с нашими вездесущими цифровыми помощниками. То же самое будет проходить с помощью таких AR/VR-устройств, как OculusRift от Facebook и новые виды человеко-компьютерных интерфейсов и нейронных имплантов. Компьютеры будут пытаться делать нас счастливыми. Они будут стараться стать нашими друзьями. И они захотят, чтобы мы их любили.

И всё станет только хуже (или лучше, в зависимости от вашей точки зрения).

В статье от 2015 года в научном журнале «Nautilus» Адам Пиор обращает внимание на то, как могут функционировать эти боты.

Я бы сказал, что цифровые технологии уже довольно хорошо обеспечивают гедонические удовольствия для своих пользователей. Просто подумайте о приложениях, личных цифровых помощниках и социальных сетях в целом, где вся цель коммуникации с другими часто сводится просто к резкому повышению уровня дофамина, вызванного ответами совершенно незнакомых людей. В некотором смысле социальные сети уже представляют собой восхитительные «генераторы гедонистического счастья».

Но, конечно, ключевой вопрос заключается в том, что могли бы сделать экспоненциальные технологические достижения, чтобы стать источником или поддержкой эвдемонизма (счастья как смысла и цели жизни, как цели человеческого существования), или поддержать наше стремление к благородной цели, или понять смысл жизни? Это представляется мне невозможным просто потому, что технологии не задаются вопросом о цели вообще. И почему они должны это делать?