Технологии против человека - Герд Леонгард

Что делает нас счастливыми?

Если бы процветание человека означало жизнь, которая приносит все больше удовольствия: более успешный и эффективный бизнес, большую прибыль и устойчивый рост, обеспеченный технологиями, – тогда для достижения счастья можно было бы использовать машины и алгоритмы. И некоторое время, пока мы продолжаем двигаться по направлению к неизбежной гиперэффективности и, скорее всего, изобилию, которое уничтожит капитализм, это, возможно, и будет работать.

Если мы дадим слишком узкое определение процветанию, преимущественно с экономической и финансовой точек зрения, – в конечном итоге столкнемся с устаревшими понятиями, такими как валовой внутренний продукт (ВВП) и валовой национальный продукт (ВНП) вместо более широкого показателя, такого как валовое национальное счастье (ВНС).

ВНС – это термин, появившийся в 1970-х годах в Бутане (в стране, которую мне удалось посетить прямо перед завершением этой книги). Он означает применение гораздо более широкого, более целостного, экосистемного подхода при оценке состояния нации. Иногда в контексте политического счастья ВНС основывается на традиционных ценностях буддизма, а не на западных ценностях, которые обычно являются показателями ВВП и ВНП, такими как экономический рост, объем и доходность инвестиций и занятость населения. Четыре столпа философии ВНС отражают эту совершенно иную концепцию: устойчивое развитие, сохранение и популяризация культурных ценностей, охрана окружающей среды и обеспечение надлежащего управления164.

Что касается принятия будущих решений о взаимоотношениях технологий и человечества, то, мне кажется, ВНС может быть очень интересным параллельным подходом, потому что он ставит счастье непосредственно в центр при оценке прогресса и ценностей. Экономические факторы не должны затмевать вопросы, связанные со счастьем, – это очевидный критерий, и производительность никогда не станет более важной, чем человечество. Это является одним из десяти ключевых правил, приведенных в конце этой книги.

Другим способом оценки успешности нации является индикатор подлинного прогресса (GPI), который рассчитывается на основе 26 показателей, связанных с экономическим, социальным и экологическим прогрессом165. GPI полезен тем, что он в полной мере учитывает внешние факторы. Последствия – это часть уравнения: именно такую мысль я хотел бы донести, когда писал о непредвиденных последствиях технологий.

Экономические показатели GPI включают в себя неравенство и издержки, связанные с безработицей; экологические показатели включают в себя издержки, связанные с загрязнением, изменением климата и невозобновляемыми энергетическими ресурсами, в то время как социальные показатели включают в себя стоимость домашнего труда, высшего образования и волонтерского труда.

Что могло бы произойти, если мы применили сочетание GPI и ВНС, чтобы получить оценку прогресса, более ориентированную на интересы человека? Этот вопрос окажется важным, потому что, если мы продолжим измерять неправильные вещи, то, скорее всего, продолжим делать неправильные вещи. Это было бы кардинальной ошибкой в век стремительного технологического прогресса. Во-первых, такие ошибки в результате приведут к гораздо более непредвиденным последствиям, а во-вторых, если мы будем наступать на те же грабли, технологии получат слишком много власти, а люди – слишком мало. Если бы мы получали точные данные о любой деятельности, например о продажах какого-нибудь сотрудника, то мы также получили бы необъективные выводы. На практике непросто измерить ни один из уникальных человеческих факторов – например, с каким количеством ключевых клиентов работает менеджер и с участием ли он относится к их проблемам и задачам.

Чем больше мы делаем вид, что наши данные и искусственный интеллект, который обучается на них, сгенерированы на 100 % в интересах человека, тем более ошибочные выводы делает система. Мы склонны игнорировать андроритмы в пользу алгоритмов, потому что нам нравятся легкие пути и упрощения.

Если измерить, насколько более эффективными могли бы стать бизнес или страна благодаря оцифровыванию и автоматизации, может получиться очень перспективная экономическая ситуация. Однако если измерить, насколько будут счастливы сотрудники и граждане после того, как все будет автоматизировано и роботизировано, может возникнуть совершенно другая социальная перспектива.

В 1968 году сенатор США Роберт Кеннеди уже считал ВВП плохо управляемым показателем, который «измеряет все, кроме того, ради чего стоит жить»166. Для меня это является важнейшей мыслью: алгоритмы могут измерять или даже спроектировать всё, кроме того, что действительно важно для людей. Говоря это, я не хочу умалять того, что алгоритмы и технологии в целом могут сделать для нас. Я просто считаю, что важно поставить технологии на свое место, то есть применять там, где это полезно, и не применять там, где это вредно.

Неправильное определение процветания человечества только укрепит положение машин

К сожалению, мы с большим запозданием осознаем, что слишком долго неправильно определяли процветание человечества. Мы посчитали гедонистические удовольствия полезными и правильными, потому что зачастую их можно изготовить, организовать или предоставить с помощью технологий. Социальные сети служат отличным примером: мы действительно можем испытывать удовольствие, если мы нравимся другим людям, – что, скажем прямо, своего рода гедонизм… ловушка цифрового удовольствия. Но мы вряд ли почувствуем себя счастливыми при важном личном общении (в модели счастья PERMA Мартина Селигмана – ключевой термин, который будет разъяснен далее)[103],[104], 167.

Может быть, мы по-настоящему поймем разницу только в последний момент, когда каждая функция, которая делает нас людьми, будет либо заменена, либо практически утрачена для выполнения из-за гиперэффективных и необходимых технологий, когда мы забудем и растеряем наши навыки делать так, чтобы что-то работало само. Я, конечно, надеюсь, что такого не произойдет; но, столкнувшись с этим стремительным технологическим прогрессом, мы поняли, что нужно начинать определять «процветание человечества» как здоровое развитие. Это означает развитие более целостного представления о нашем будущем, которое выходит за рамки просто механистических, упрощающих и часто гедонистических подходов к счастью, популярных среди многих изобретателей новых технологий.

Психолог Мартин Селигман утверждает, что истинное счастье связано не только с внешними, мгновенными удовольствиями. Он использует модель счастья PERMA, чтобы обобщить главные результаты своих исследований в области позитивной психологии168. Люди, в частности, чувствуют себя счастливее, если у них есть: