Мир-фильтр. Как алгоритмы уплощают культуру - Кайл Чейка

2021 году сервис WhatsApp наказали штрафом в 225 миллионов евро за отсутствие четкой политики конфиденциальности. Сильнее всего досталось компании Amazon, с которой потребовали 746 миллионов евро за то, что она отслеживала данные пользователей и не давала им возможности запретить подобные действия. Этот закон нарушают не только технологические гиганты, но и другие организации. В марте 2020 года Нидерландское управление по защите данных наложило штраф в размере 525 тысяч евро на Королевскую голландскую теннисную ассоциацию (национальный руководящий орган этой игры) за “незаконную продажу персональных данных”. Ассоциация продала сведения о 350 тысячах своих участниках спонсорам для маркетинговых целей, не спросив предварительно их согласия – в нарушение требований GDPR, что такая сделка подразумевает добровольное согласие.

Хотя упомянутые штрафы бледнеют по сравнению с годовым доходом технологических компаний, они демонстрируют, что GDPR может привести к определенному соблюдению требований. Хотя билль о правах на данные[84] звучит как идеальное решение для Мира-фильтра, в некоторых отношениях этот закон разочаровывает. Достаточно нажать кнопку “принять все файлы cookies”, и за пользователем начнут следить так же, как и раньше. Как заметила Николь Гилл, соучредитель американской правозащитной группы под названием Accountable Tech, компании заинтересованы в том, чтобы выбор в пользу отслеживания был как можно проще и пассивнее. “Онлайн-сервисы найдут способ исполнять закон, который обеспечит наименьшее трение для их пользователей”, – говорит Гилл. Гладкость всегда является идеалом Мира-фильтра – замедлившись, вы, возможно, передумаете нажимать и отдать свои данные. “Отсутствие гладкости позволяет людям успеть задуматься о своих действиях”, – продолжала она, и это в равной степени относится и к радио Spotify, и к ленте ТикТока. Если вы слишком много думаете, вы можете остановиться.

Такая пассивность присуща и мне самому. Когда на американских сайтах в соответствии с GDPR стали появляться аналогичные уведомления, я чаще всего просто нажимал на кнопку, чтобы предоставить свои данные. Если это предлагал сайт, который мне нравилось читать – например, национальное издание о еде Eater, – я с готовностью соглашался на слежку, потому что считал (возможно, ошибочно), что могу доверять этому сайту. Когда мои данные просила The Guardian, которую я ценил как левую британскую газету, я тоже соглашался. Что могло пойти не так? Необходимость отказаться воспринималась как форма работы. Если бы я ощущал себя праведником, я бы сердито нажал “Нет”. Конечно, я не хочу этой слежки! Но если бы я чувствовал себя циничным, то просто соглашался бы, потому что, возможно, это улучшало мои алгоритмические рекомендации и обеспечивало более серьезную персонализацию.

Отчасти это было продиктовано ленью и хитростями дизайна интерфейса. Кнопка “Принять” часто темнее и заметнее, чем “Отказаться”, поэтому мой мозг дольше пытался понять, что к чему. Но также казалось, что мой личный выбор не изменит работу сайта – ни для меня, ни для кого-то другого. “Большинство людей в любом случае просто принимают условия”, – говорит Пэдди Леерссен, исследователь цифровых платформ из Амстердамского университета и бывший научный сотрудник Стэнфордского центра интернета и общества. В конечном итоге закон может возложить бремя ответственности скорее на пользователя, нежели на компанию. “Весь этот механизм индивидуальной ответственности, который создает GDPR, не особо эффективен”, – указывает Леерссен. Новые законы ЕС направлены не столько на данные, сколько на конкретные действия против рекомендательных систем. По словам Леерссена, это “административно-контрольные правила, в которых правительство указывает этой индустрии, что нужно делать, не оставляя это на усмотрение пользователя”.

Закон о цифровых услугах (DSA), который был принят в июле 2022 года и вступил в силу в 2024 году, предусматривает некоторые из тех же видов прозрачности и коммуникации в отношении рекомендаций, что GDPR обеспечивает в отношении данных: платформы “должны четко раскрывать основные параметры таких рекомендательных систем в понятной форме, чтобы получатели понимали, каким образом расставляются приоритеты в предоставляемой им информации”. Но в нем также говорится, что алгоритмические ленты должны быть настраиваемыми, позволяя пользователям менять по своему усмотрению соотношение переменных или выбрать ленту, которая вообще не опирается на персональные данные: “варианты, не основанные на профиле получателя”.

В сентябре 2022 года появился еще один закон ЕС – Закон о регулировании цифровых рынков (DMA), который направлен на борьбу с монополизацией и на поощрение конкуренции. Технологические гиганты названы “сторожами”. Закон запрещает объединять без согласия пользователя данные из разных сервисов одной компании, таких как Фейсбук и WhatsApp, принадлежащих Meta. Он также запрещает “предоставление приоритета себе”: используя этот метод, Google и Amazon иногда продвигают собственные продукты под видом нейтральных автоматических рекомендаций, выдаваемых в результатах поиска (один из приемов, усиливающих однородность современного интернета). Штрафы за нарушение DMA могут достигать 10 процентов от годового дохода компании и 20 процентов – для повторных нарушителей, что делает его соблюдение еще более важным.

После вступления в силу эти законы, вероятно, изменят алгоритмический ландшафт, дав пользователям гораздо больше свободы в выборе рекомендаций и настройке ленты контента. Пассивные отношения станут более активными, поскольку мы сами начнем определять свои предпочтения и формировать свою цифровую жизнь в соответствии с собственными вкусами. Алгоритмические ленты будут казаться не такими монолитными и непроницаемыми, как сейчас, и станут более походить на функциональные инструменты, которыми они и являются. Нет причин, по которым ваша лента должна работать точно так же, как моя. Такое изобилие может привести и к большему разнообразию культур в Сети.

Технологические компании подстраиваются под этот новый правовой ландшафт. В августе 2023 года родительская компания Meta объявила, что Фейсбук и Инстаграм добавят опции, позволяющие пользователям полностью отказаться от алгоритмических рекомендаций, исключив возможность автоматической персонализации. Однако эта опция будет доступна только для пользователей в ЕС, поскольку США гораздо медленнее принимают подобные законы. Когда я увидел эти заголовки, меня охватила зависть – как будто только жители ЕС могут дышать воздухом, свободным от загрязнений.

Регулирование в США

Регулирование цифровых платформ в ЕС уже стало предвестником серьезных изменений в американских социальных сетях. Несмотря на то, что эти законы не обязательно применять в США, они подталкивают к переменам. В апреле 2021 года компания Apple объявила об обновлении в операционной системе своих айфонов, которое носило название App Tracking Transparency. Теперь каждое приложение, которое хочет отслеживать данные пользователей в рекламных целях, обязано сначала спрашивать разрешение на это во всплывающем окне, а пользователи могут отказаться от слежки. Apple также добавила меню отслеживания с возможностью отключения этой опции в каждом загруженном приложении. Может показаться, что это изменение несущественно, но его последствия сказались незамедлительно: первые статистические данные показали, что только 16 % пользователей согласились на отслеживание, хотя через год этот