Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти - Шошана Зубофф

Руководящие принципы радикального безразличия можно наблюдать в действиях скрытой низкооплачиваемой рабочей силы Facebook, на которую возложена задача ограничивать деградацию первого текста. Нигде непомерное влияние надзорного капитализма на общественное разделение знания не находит более конкретного проявления, чем в выполнении этой грязной функции «модерации контента», и нигде взаимосвязь экономических императивов и разделения знания не обнажается так ярко, как в повседневной банальности этого рационализированного рабочего процесса, в котором ужас и ненависть всего мира приговаривается к жизни или смерти с такой скоростью и в таком объеме, которые оставляют лишь мгновение на то, чтобы принять решение, заблокировать или пропустить. Только благодаря решительным действиям нескольких журналистов-расследователей и ученых мы можем бросить редкий взгляд на эти в высшей степени секретные процедуры, распределенные сегодня между целым рядом call-центров, мелких фирмочек и сайтов «микрозанятости» по всему миру. Как отмечается в одном репортаже, «Facebook и Pinterest, наряду с Twitter, Reddit и Google, отказались предоставлять копии своих нынешних или прошлых руководящих принципов внутренней модерации»[1278].

В тех немногих статьях, в которых удалось дать оценку работе Facebook, этот мотив возникает неизменно. Эта секретная рабочая сила – одни оценивают ее в по меньшей мере 100 000 «модераторов контента», по подсчетам других, цифра должна быть намного выше, – действует на определенном удалении от основных функций корпорации, сочетая человеческое суждение и инструменты машинного обучения[1279]. Называемые иногда «санитарами», они просматривают длинную очередь контента, отмеченного пользователями в качестве проблемного. Хотя некоторые общие правила, например касающиеся порнографии и показа жестокого обращения с детьми, применяются единообразно, существуют детальные правила, направленные на то, чтобы отклонять как можно меньше контента в контексте локальной оценки минимального порога терпимости пользователей. Основная задача всей затеи – найти точку равновесия между способностью привлечь пользователей и их излишки на сайт и риском оттолкнуть их. Это расчеты радикального безразличия, которые не имеют ничего общего с оценкой правдивости контента или подержания взаимности с пользователями[1280]. Это помогает объяснить, почему устранение дезинформации – не приоритет. В репортаже об одном расследовании цитируются слова одного из сотрудников Facebook: «У них есть абсолютно все инструменты, чтобы прикрыть „fake news“…»[1281].

Тот факт, что радикальное безразличие порождает эквивалентность без равенства, влияет также на науку целевой рекламы. Например, журналистка Джулия Энгвин и ее коллеги из организации ProPublica обнаружили, что Facebook «позволил рекламодателям включить свои материалы в новостные ленты почти 2300 человек, которые проявили интерес к таким темам, как „ненавистник евреев“, „как сжигать евреев“ или „История того, почему евреи губят мир“»[1282]. Как объяснили журналисты, «Facebook уже давно практикует политику невмешательства по отношению к своему рекламному бизнесу Facebook автоматически генерирует свои рекламные категории как на основе того, чем пользователи делятся с Facebook в явном виде, так и учитывая то, что они неявно сообщают о себе своими действиями онлайн». Точно так же репортеры из BuzzFeed обнаружили, что Google позволяет рекламодателям настраивать таргетинг объявлений на людей, которые вводят расистские термины в строку поиска, и даже предлагает варианты размещения объявлений рядом с результатами поисков «коварные евреи» и «контроль евреев над банками»[1283].

После выборов 2017 года в США и Великобритании, когда «fake news» были у всех на устах, журналисты обнаружили сотни случаев, когда прогнозные алгоритмы размещали рекламу признанных брендов, таких как Verizon, AT&T и Walmart, рядом с материалами вопиющего содержания, включая дезинформацию, ненавистнические высказывания, экстремистский политический контент, а также с террористическими, расистскими и антисемитскими публикациями и видеороликами[1284].

Интереснее всего было предполагаемое возмущение и удивление клиентов надзорного капитализма – рекламных агентств и их заказчиков, которые давным-давно продали душу радикальному безразличию, превратив Google и Facebook в дуополию рынка онлайн-рекламы и стимулируя мощный рост надзорного капитализма[1285]. К тому времени прошло почти два десятилетия с тех пор, как Google изобрел формулу, которая отдавала рекламное место на откуп показателям эквивалентности на основе подсчета кликов, вытеснив более ранние подходы, которые пытались увязывать рекламу с контентом, отражающим ценности бренда рекламодателя. Клиенты отказались от этих установившихся взаимностей в пользу «автомагических» секретных алгоритмов Google, обученных на проприетарном поведенческом излишке, изъятом у ничего не подозревающих пользователей. В сущности, именно радикальное безразличие подсчета кликов в первую очередь и породило онлайн-проявления экстремизма и стремления к сенсационности, поскольку прогнозные продукты отдают предпочтение контенту, созданному, чтобы привлекать внимание.