Технологии против человека - Герд Леонгард

Можно лишь надеяться, что эффективно осуществляемая и хорошо спроектированная автоматизация не приведет к таким массовым подавлениям воли и только иногда будет провоцировать приступы раздражения. Однако тот факт, что мы не сможем вовремя понять, что теряем контроль над ситуацией, пока не дойдем до поворотной точки, а потом справиться с ней уже будет не в наших силах, – вызывает беспокойство касательно экспоненциальной автоматизации.

Поиск баланса

Сложность заключается в том, чтобы соблюсти правильный баланс: что мы можем автоматизировать так, чтобы не произошло замещения машинами ценных человеческих проявлений, таких как разговоры или коммуникационные потоки? Когда вы звоните в колл-центр, чтобы изменить номер рейса, хотите ли вы, чтобы сотрудник проявил понимание и эмпатию по отношению к вам? В большинстве случаев – нет, но иногда это необходимо, например, когда возникает непонимание в рамках вежливого общения. Так, до 90 % колл-центров будут автоматизированы в ближайшие несколько лет, но в некоторых случаях нам все равно нужно будет поговорить с живым человеком. Конкретно в этом случае хорошо спроектированная и регулируемая человеком автоматизация может служить примером позитивного развития, но миллионы рабочих мест так или иначе исчезнут.

Продолжим дискуссию о самом ближайшем будущем… Путешествуя самолетом, можно ли довериться полностью автоматизированной беспилотной кабине? Или же нам будет спокойнее, если пилот все-таки будет присутствовать? Проходя медицинское обследование, хотели бы мы, чтобы к нам проявили «гуманность» и сочувствие, или же нам будет достаточно того, чтобы машина сообщила нам только факты? В случае простуды или проблемы с желудком кажется, что автоматический дистанционный диагноз может быть полезен и вполне приемлем. Однако, когда речь идет о постановке таких серьезных диагнозов, как нервное расстройство, астма или диабет, такая автоматизация безусловно дегуманизирует сферу медицинских услуг.

Автоматизации нельзя сказать «да» или «нет»; на вопросы, связанные с ней, необходимо отвечать постепенно и осторожно, стараясь сохранить баланс и всегда заботясь в первую очередь о человеке. Вопрос заключается не в том, смогут ли и как смогут технологии что-либо автоматизировать, а в том, будет ли это способствовать процветанию человечества. В том, за кого мы болеем: за команду технологий или за команду человечества.

Автоматизация внутри нас?

Вместе с вещами, которые подвергаются автоматизации вокруг нас, существует также много вещей, которые могут быть автоматизированы внутри нас и начать оказывать влияние на то, как мы думаем и что мы чувствуем. Подумайте о том, как программы и алгоритмы, умные цифровые помощники, облачные сервисы и роботы, оборудованные ИИ, забирают на себя все больше наших ежедневных дел и как некоторые из нас уже автоматизировали дружбу с помощью социальных сетей и мессенджеров.

Что случится с нашим коллективным разумом, проявляющимся в процессе живого общения, в рамках которого мы учимся, спорим, обсуждаем проблемы, принимаем решения и создаем наши общества и демократические режимы? Как будут формироваться наши решения, если все, что мы видим и слышим друг о друге, будет определяться исключительно алгоритмами, созданными для того, чтобы заставить нас увидеть как можно больше рекламных объявлений, а не людей? Что, если эти инструменты не будут подвергаться общественному контролю, надзору и управлению?.. Будут ли нами управлять машины и алгоритмы, находящиеся в собственности огромных международных интернет-платформ и технологических компаний? Станут ли они «системами виртуального распределения дофамина», запрограммированными на то, чтобы вызвать привыкание и одобрение и достигать максимальных результатов для своих владельцев, рекламщиков и других «шпионов», которые хотят анализировать и использовать наши персональные данные?

Google Новости83, так же как новостная лента Facebook84 и новостное приложение Baidu[56], 85, практически не управляются людьми. Почти во всех случаях, хотя за процессом и наблюдают люди, всю основную работу выполняют алгоритмы. В этих компаниях очень мало кто занимается контентом в журналистском смысле этого слова – вместо этого работники разрабатывают еще более умные алгоритмы и программы, способные справиться с любой новой задачей. Нет ничего удивительного в том, что девиз Марка Андриссена «Программное обеспечение съедает мир» уже превратился в «Facebook съедает интернет»86. И Facebook не хочет делиться! За исключением программистов, инженеров и исследователей искусственного интеллекта, Facebook нанимает очень мало сотрудников, в чей функционал входит прямое общение с клиентами.

Возможно, очень скоро программы будут не только «съедать», но и «обманывать» мир. Я уже чувствую, что меня обманывают или мной манипулируют, когда листаю ленту в Facebook, потому что я не могу доверять ей так же, как я доверяю The New York Times, The Economist, Der Spiegel или The Guardian, ведь ее единственная цель заключается в извлечении выгоды. Это не средства массовой информации, а средства массового обмана, но мы не можем выбраться из их сетей, хотя прекрасно об этом знаем.

Это не целиком одностороннее движение: по данным Mashable[57], Apple старается включить человеческий фактор в работу своего новостного приложения, музыкальных рекомендаций и плейлистов, но это определенно исключение, а не правило87.

Автоматизация переживает такой подъем, потому что всем уже понятно, что люди медленны, часто неэффективны и требуют значительного финансирования, в то время как машины недороги в использовании, ультраэффективны, и их показатели продолжают экспоненциально увеличиваться. Производительность вырастет в разы, но уровень трудоустройства людей неизбежно резко снизится. У нас будет работа в будущем, но, скорее всего, она будет оторвана от идеи зарабатывания на жизнь.

Также становится вполне вероятно, что мы больше не увидим того, что другой, возможно, более умный человек хотел бы до нас донести на новостных и медиаплатформах. Вместо этого содержание, которое мы должны увидеть, будет определяться ботом, ИИ, на основе миллионов фактов и отрывков данных, анализируемых в реальном времени. Мы явно рискуем потерять человеческие понятия о ценностях, морали, этике, эмоциях, искусстве и человеческую способность рассказывать истории из-за использования сервисов, которые их не воспринимают. Разумеется, ИИ уже в ближайшем будущем сможет понимать наши чувства и эмоции и даже симулировать их и нашу словоохотливость, но я не думаю, что ИИ когда-нибудь сможет стать человеком.

Я не хочу возвращаться в золотой век печатных газет – они были и остаются непрактичными, коррумпированными монополистами, которым нельзя верить. Однако в большинстве случаев в газетах трудились журналисты и редакторы, чьей работой было знать больше, чем мы, видеть контекст ситуации и определять его важность. Их целью было просветить читателя в определенной теме, хотя их мнения и были субъективными.