Мир-фильтр. Как алгоритмы уплощают культуру - Кайл Чейка

песчаными замками выглядела уместной. Подписчики, лайки и вовлеченность, рекомендации в реальном времени, которые представляли слишком удобную изолированную версию моих интересов, – все это было временным и зависело от самих платформ, неизбежно меняющихся и исчезающих со временем. Недавняя история 2010-х годов, когда Фейсбук развивался, а затем терял актуальность, показала, что какой бы крупной ни являлась социальная сеть, она может потерпеть неудачу или ее может вытеснить какой-нибудь конкурент, который решит играть по новым правилам – социальным или технологическим. Когда это происходит, пользователи остаются один на один с собой, поскольку наша цифровая жизнь определяется скорее соображениями бизнеса, нежели нашими интересами.

Глава 5

Регулирование Мира-фильтра

Молли Расселл

Сейчас мы находимся во власти алгоритмических рекомендаций и лент. Этот франкенштейновский феномен изобрели и наделили властью люди, однако алгоритмы вышли далеко за рамки отведенной им роли. Мы не можем контролировать их или влиять на них. Мы не можем полностью отказаться от них, продолжая пользоваться цифровыми платформами, которые являются неотъемлемой частью жизни современного взрослого человека. Алгоритмы необходимы нам, как почта, канализация или линии электропередач, но, в отличие от такой общественной инфраструктуры, они не подлежат государственному надзору, регулированию или решениям избирателей. Рекомендательные системы бурно развиваются. Возможно, мы склонны не замечать их капризности в сфере культуры, потому что вещи, на которые они влияют, кажутся не настолько важными, как, скажем, водопровод. Если Spotify порекомендует пользователю серию композиций в жанре хеви-метал после того, как тот прослушал альбом группы Metallica, над подобным алгоритмическим однообразием уместнее всего будет посмеяться или проигнорировать его как мелкий сбой. Это не воспринимается как нечто опасное, ведь здесь самый большой риск – это скука. Однако алгоритмическое ускорение контента может обернуться проблемой жизни и смерти.

В ноябре 2017 года покончила жизнь самоубийством четырнадцатилетняя школьница Молли Рассел, жившая на северо-западе Лондона. Однако не вся ответственность лежит на подростке. В 2022 году Эндрю Уокер, старший коронер по Северному Лондону, описал ее смерть в ином ключе: “Она умерла в результате акта самоповреждения на фоне депрессии и негативного влияния онлайн-контента”. Уокер впервые официально заявил, что социальные сети потенциально представляют смертельную опасность. История Рассел – это хорошо многим знакомая история юности в эпоху социальных сетей, когда жизнь протекает в Сети в той же степени, что и вне ее. Как и любой подросток, Рассел проводила кучу времени на цифровых платформах. За шесть месяцев, предшествовавших ее гибели, она просмотрела более шестнадцати тысяч постов в Инстаграме. Согласно данным государственного расследования ее смерти, примерно 2100 из них (13 %) были связаны с самоубийством, самоповреждением и депрессией. Рассел также собрала в Пинтересте доску из 469 изображений на аналогичные темы. В социальных сетях можно завязывать дружеские и романтические отношения, там можно найти контент на любой вкус. Однако те же социальные и технологические силы, которые стимулируют сообщество фанатов фильмов Marvel или делают какую-нибудь песню вирусной, могут влиять на психические заболевания или усугублять их.

Алгоритмические рекомендации сыграли важную роль в том, что Рассел получала такое количество контента, связанного с психическими расстройствами. Журнал Wired сообщил, что Рассел прочитала электронное письмо с заголовком “Депрессивные пины[78], которые могут вам понравиться”; в частности, там для ее доски предлагалось изображение окровавленной бритвы: алгоритм демонстрирует к негативному изображению такое же отношение, как и к домашнему декору, занимающему большую часть Пинтереста. Позже Фейсбук раскрыл, что школьнице рекомендовали тридцать различных аккаунтов, в названиях которых “упоминались грустные или депрессивные темы”, что давало еще больше возможностей получать контент, который мог ухудшить ее психическое здоровье. В своем собственном секретном аккаунте в Твиттере Рассел ретвитила аккаунты с названиями вроде “Цитаты о депрессии”, делилась изображениями с глорификацией самоубийства и общалась с инфлюэнсерами, которые рассказывали о депрессии. Социальные сети провоцировали то, что судмедэксперт назвал “периодами запоя”, когда Рассел автоматически потребляла доставляемый ей контент.

Рассел входит в число человеческих жертв чрезмерного влияния алгоритмов, когда контент распространяется слишком быстро и в таких гигантских масштабах, которые оказываются не под силу ручному модерированию. Ни один редактор журнала не стал бы публиковать поток настолько депрессивного контента, и ни один телеканал не стал бы его транслировать. Однако алгоритмическая лента могла быстро сделать подборку под запрос, предоставляя школьнице то, что девочка, возможно, считала наиболее интересным, хотя это было вредно для нее. Трагедия Рассел демонстрирует, что проблемы Мира-фильтра чаще всего носят структурный характер и заложены в принципах работы цифровых платформ. Изменяя свое поведение, пользователи могут зайти слишком далеко; мы не можем полагаться на то, что механизмы когда-либо начнут ставить во главу угла наше благополучие, а не вовлеченность, приносящую доход от рекламы. Пользователи могут рассчитывать только на ограниченную свободу действий в рамках цифровых платформ. Например, они могут выбирать определенную тему контента, но не могут изменить формулу рекомендательного алгоритма. У нас нет достаточного количества альтернативных вариантов навигации по интернету вне рамок алгоритмических лент – отчасти потому, что в Сети сейчас доминируют всего несколько компаний.

Структурная монополизация

Сегодня наш опыт общения в интернете в значительной степени централизован. Потребители толпятся на горстке исполинских платформ – Твиттер, Фейсбук, Инстаграм, ТикТок, Ютьюб – и предоставлены самим себе в поисках того, что они хотят там найти. Поскольку аудитория собрана в основном на этих платформах, авторы тоже вынуждены работать здесь, превращая свой труд в контент и адаптируя его к лентам платформ. Если они этого не сделают, то останутся относительно незамеченными. Несмотря на то, что большая часть контента, который мы видим в Сети, “генерируется пользователем”: загружается свободно, без какого-либо контроля или поддержки, – этот контент все равно должен вписываться в заранее установленные формы, определяемые корпорациями. Поскольку за десятилетия своей истории интернет пережил несколько циклов централизации и децентрализации, более ранние периоды могут послужить лучшей моделью для пользовательского опыта.

В 1969 году существовала лишь горстка компьютеров, объединенных в сеть под контролем Управления перспективных исследовательских проектов (DARPA), входящего в состав Министерства обороны США. ARPANET стала первой масштабной компьютерной сетью. Каждый компьютер, входящий в нее, можно было нанести на небольшую диаграмму Соединенных Штатов. Доступ к этой централизованной системе получали только через правительственные учреждения и университеты. Постепенно она расширилась. Если ARPANET походила на схему метро, где соединялись только определенные точки, то сеть Юзнет (Usenet), созданная в 1980 году, больше напоминала автодорогу: в нее мог попасть любой человек с соответствующим оборудованием. Юзнет был одним из самых ранних способов распространения и потребления контента по Сети. Он представлял собой систему цифровых досок объявлений, которая со временем подключилась к