Технологии против человека - Герд Леонгард

Очевидно, что история о якобы найденном в Ираке оружии массового уничтожения, рассказанная американским телеканалом Fox News и многими другими СМИ, показала, что телеканалы и корреспонденты также могут вводить в заблуждение, причем не всегда непреднамеренно. Но, по крайней мере, у нас была возможность выяснить, кто стоял за этим выпуском, и спросить с них. Я думаю, что это невозможно в случае с новостными ИИ-ботами. Более того, я уверен, что мы даже и не подумаем в них усомниться.

Еще одним следствием перехода на автоматизированные новостные ленты будет то, что мы будем видеть контент, отличный от того, который видят окружающие люди: наши семьи, супруги, друзья и коллеги. Их новости будут на 100 % индивидуализированы и, вероятно, поэтому будут полностью отличаться от ваших новостей. Мы, правда, уже подошли к тому этапу, когда у наших устройств появилось достаточно вычислительной мощности, чтобы сделать уникальную новостную ленту для каждого пользователя, основываясь на его личных данных.

Провоцируем ли мы тем самым обострение проблемы «пузыря фильтров»[58], когда алгоритмы создают для нас эхо-камеры[59], полные людей со схожими интересами, чтобы мы получали больше удовольствия от общения с ними? Как быть с предвзятостью подтверждения[60]? Интересует ли эта проблема такие гигантские генерирующие контент алгоритмы, как Google и Facebook? Или наше беспокойство о фильтрации и искажении информации, а также о манипуляции сознанием – это последнее, что волнует новостных провайдеров?

«Этика – это, конечно, хорошо, но у нас сейчас нет на это времени и ресурсов» – вот что я слышу от большинства компаний, когда мы обсуждаем эти вопросы. Я думаю, они совершают большую ошибку, потому что общество с неограниченной мощностью технологического прогресса без этики обречено.

Давайте представим, что этот новостной бот или ИИ-медиаспециалист теперь курирует не только онлайн новости, но и телевидение, что тоже, без сомнения, случится. Вот возможный сценарий: с помощью технологий ОТТ[61] новости, адаптированные под каждого конкретного зрителя, будут поступать прямо из интернета, минуя привычные службы трансляции и кабельные каналы. CNN или европейские каналы общественного телевещания заменят видеотрансляции в Twitter или Facebook, а приложения, боты и цифровые помощники уничтожат кабельное телевидение и стриминговые службы. Менее чем через десять лет телевидение и интернет превратятся в единое целое, что может полностью перевернуть наше восприятие медиа. И да, у ОТТ существуют и плюсы, поэтому не будем торопиться от них избавиться!

Если, как однажды сказал Кевин Келли, основатель и исполнительный редактор журнала Wired[62], «машины – для ответов, а люди – для вопросов»88, тогда куда же нас приведут машины в сфере контента, медиа и информации? Какие ответы они нам предоставят: широкий круг сверкающих подделок, основанных на анализе тех вопросов, которые у нас возникали или могли бы возникнуть, если бы нам предоставили возможность немного подумать?

Я считаю, что нас определяют такие уникальные человеческие черты, как способность задавать вопросы, представлять разные исходы событий, мыслить критически, читать между строк и видеть то, что еще только будет. И разве люди, стоящие за медиа и созданием контента, не должны стремиться к тому же?

Я боюсь наступления момента, когда все эти черты будут утеряны из-за машин, контролирующих, что и кого мы видим, на любых платформах на протяжении всего времени. Тогда мы уже будем на пути к тому, чтобы отказаться от нашего сознания и передать нашу человечность в их распоряжение. И прежде чем мы это осознаем, мы можем оказаться в программируемой реальности, принадлежащей владельцам серверов и программ.

Что случится с нашей способностью принимать решения, если боты будут думать за нас и выступать от нашего лица? Если программы и умные помощники уже принимают за нас простые решения вроде выбора фильма или еды на вечер, куда тогда исчезнут сюрпризы, загадки, ошибки и интуитивные озарения? Можно ли будет запрограммировать этих умных цифровых помощников таким образом, чтобы они были по-человечески несовершенными, непоследовательными, по-своему особенными, но тем не менее могли достигать результатов? Хотели бы мы, чтобы они стали такими?

Будут ли боты голосовать за нас и станут ли представлять нас в демократических институтах, например на референдуме или даже в парламенте? Будут ли наши умные цифровые помощники собирать информацию и затем на основе анализа наших прошлых мнений, поведения и принятых решений советовать нам, за кого стоит проголосовать?

Останется ли свобода воли в прошлом, потому что в будущем все можно будет предсказать?

Захватят ли кротовьи норы мир?

Технологии продолжают заманивать нас в свои сети, и я боюсь, что они тем самым говорят нам: «Мы можем предоставить быстрый доступ к любой информации, применяя ИИ, базы данных и роботов. В трудоемких, скучных и медлительных „человеческих штучках“ уже нет нужды».

Сначала они у меня в руках, затем на моем лице, в ушах и, в конце концов, в моей голове. Детям уже не нужно учиться писать, потому что компьютеры смогут слушать, фиксировать и расшифровывать все, что мы им скажем. Нет необходимости разбираться со сложностями в реальных человеческих отношениях, если можно состоять в отношениях, в том числе сексуального характера, с цифровыми эквивалентами с помощью дополненной реальности, виртуальной реальности и роботов. Не нужно учиться играть на инструментах, потому что интерфейс «мозг – компьютер» позволит мне воспроизводить музыку, просто думая о ней. Зачем учить языки, если за меня все скажет мобильный переводчик? Зачем разговаривать с людьми, если они могут просто «сбросить» нам данные? Зачем проявлять эмоции, которые только мешают грамотной работе ИИ?