Внутри Facebook. Голая правда - Шира Френкель

Со своей стороны, как один из первых инженеров компании, Кокс чувствовал ответственность за то, чтобы попытаться предотвратить ущерб от технологии, которую он помог создать. «Facebook и наши продукты никогда не были так важны для будущего. Это компания, которую я знаю лучше всего, компания, которую я помогал строить, и это лучшее место для меня, чтобы засучить рукава и взяться за работу», – написал он в сообщении на Facebook, объясняя свое возвращение.

Вскоре он вновь вошел в круг приближенных к Цукербергу руководителей и влился в самые острые политические дискуссии Facebook. 7 июля Цукерберг, Сэндберг, Клегг и Кокс провели видеоконференцию с организаторами Stop Hate for Profit («Остановить ненависть ради прибыли») – инициативы, выдвинутой широкой группой критиков, включая Джима Стайера из Common Sense, Сашу Барона Коэна и лидеров в области гражданских прав, которые использовали свои связи среди руководителей бизнеса, чтобы пригласить тех принять участие в месячном рекламном бойкоте Facebook. К началу июля Verizon, Starbucks, Ford и Walgreens объявили, что присоединяются к протесту221. Сэндберг лихорадочно обзванивала генеральных директоров и руководителей отделов маркетинга более чем ста компаний-участниц в попытке заставить их изменить свое решение, но безуспешно.

Лидеры по защите гражданских прав, участвовавшие в видеоконференции, отчитали руководителей Facebook за рост риторики ненависти на сайте. Джонатан Гринблатт из Антидиффамационной лиги допытывался, как Цукерберг все еще может позволять отрицателям холокоста распространять свои взгляды на сайте. Рашад Робинсон из организации Color of Change настаивал на том, чтобы компания, по крайней мере, последовала примеру Twitter и разобралась с аккаунтом Трампа за высказывания, подстрекающие к насилию и распространяющие дезинформацию о голосовании по почте.

Цукерберг ответил на большинство вопросов. Он защищал Facebook, заявляя, что искусственный интеллект платформы теперь способен обнаруживать 90 процентов ненавистнических и других вредных высказываний. Это огромное достижение и свидетельство возможностей искусственного интеллекта Facebook и расширенного штата модераторов контента. Но при ежедневном производстве сотен миллионов единиц контента те 10 процентов, которые необходимо было обнаружить вручную или другими способами, все еще представляли собой миллионы постов, наполненных риторикой ненависти. Гринблатт ответил, что арифметика Цукерберга опасна: ведь вы никогда не скажете, что кофе, состоящий всего на 10 процентов из канцерогенов, безопасен.

Робинсон не забыл и о Каплане, который не принимал участия в разговоре. «Мы могли бы продолжать настаивать на улучшении правил, но вы ведь не собираетесь это делать, потому что у вас есть структура стимулов, основанная на том, чтобы Трамп не слишком злился и чтобы вас не слишком регулировали, – указал он. – Эти решения принимает ваш офис в Вашингтоне и Джоэль».

Прямота Робинсона, похоже, раздражала Цукерберга. Ему не нравилось, когда его загоняли в угол. Он также чувствовал, что должен защитить Каплана, которого в многочисленных публикациях в прессе изображали злодеем, политическим наемником, стремящимся расширить возможности Трампа на сайте. «Вы занимаетесь охотой на ведьм, – сказал Цукерберг, повысив голос, как вспоминает Робинсон. – Но решения здесь принимаю я».

Сэндберг, Кокс и другие давили на Цукерберга, чтобы тот пересмотрел свою позицию в отношении материалов о холокосте. Опасения, высказанные Антидиффамационной лигой и другими группами по защите гражданских прав, были обоснованными; компании нужно было сделать больше, чтобы пресечь ненавистнические и вредные высказывания. Огромный размер Facebook и ее технологии усиливали голоса правого крыла в беспрецедентных масштабах. Цукерберг принципиально защищал контент, но это уже не было периферийной проблемой, и политику следовало пересмотреть.

Цукерберг также получал новые тревожные данные. Один из внутренних отчетов показал, что на Facebook крепли теории заговора и отрицание холокоста и что эти идеи в значительном количестве принимали миллениалы. Некоторые пользователи считали, что последствия холокоста были преувеличены; другие полагали, что вся информация о том, что нацистская Германия и ее союзники преследовали и систематически уничтожили шесть миллионов евреев, была сфабрикована. Цукерберга особенно поразило упоминание миллениалов. Для него было непостижимо, что его собственное поколение, выросшее при полном доступе к информации из интернета, может вдруг взять и начать отрицать холокост. Сэндберг и другие заставили его задать себе вопрос, может ли он продолжать отстаивать эту позицию, особенно в свете растущих антисемитских нападений в США и других странах.

В конце лета 2020 года Цукерберг приказал команде по политике Facebook начать разработку правил, которые позволили бы банить отрицателей холокоста на платформе. «Это был разворот на 180 градусов, но Цукерберг, как ни странно, так не считал. Он называл это “эволюцией”, – сказал один из сотрудников коммуникационной команды Facebook, которого проинструктировали, как объяснить СМИ решение Цукерберга. – Мы объявляли обо всех этих изменениях в политике, но преподносили их как ситуативные, изолированные решения».

Были и другие, не менее тревожные данные. Внутренние отчеты также свидетельствовали о неуклонном росте экстремистских групп и теорий заговора. Служба безопасности Facebook сообщала о случаях насилия в реальном мире, а также о пугающих комментариях, сделанных в закрытых группах. Специалисты по обработке данных и сотрудники службы безопасности Facebook с июня по август 2020 года отметили 300-процентный рост контента, связанного с теорией заговора QAnon. Ее сторонники верят, будто либеральная элита и знаменитости, такие как Билл Гейтс, Том Хэнкс и Джордж Сорос, управляют глобальной сетью торговли детьми. Основу этой теории заложила «Пиццагейт», еще одна теория заговора, согласно которой Хиллари Клинтон и другие видные демократы совершали насилие над детьми в подвале пиццерии в Вашингтоне. Хотя теория была неоднократно опровергнута – в частности, у ресторана, о котором шла речь, даже не было подвала, – идея о заговоре глобальных элит сохранялась и развивалась при администрации Трампа.

19 августа Цукерберг согласился удалить некоторые материалы QAnon на том основании, что они могут привести к насилию. Это было небольшое изменение в политике, касающееся небольшой части всего контента QAnon. И в знак того, что некоторые члены команды назвали неустанным внутренним лоббированием Каплана в пользу политической эквивалентности, Facebook также объявила, что удалит 980 групп, вроде тех, что были связаны с антифа, крайним левым антифашистским движением – пугалом для Трампа и республиканцев, которые обвиняли левые группы в организации демонстраций, принимающих насильственные формы. «Я не могу это объяснить. Мы не говорим, что и те и другие – агрессивные группы одного типа. Все, что я могу вам сказать, это то, что нам пришлось объявить о тех и о других в один и тот же день, – сказал один из инженеров Facebook в разговоре с репортером в день, когда Facebook сделала объявление. – Это политика, ясно? Мы не можем объявить о QAnon, не объявив о ком-то из левых».

Команда Facebook, занимающаяся поиском и удалением экстремистского контента на сайте, считала, что решение Цукерберга было хорошим первым шагом, но они внимательно следили за реакцией QAnon и других правых групп. Они знали, что по мере приближения выборов вероятность насилия будет все выше. Утром 25 августа их опасения оправдались, когда гнев правых на сайте, наконец, достиг точки кипения. В 10:44 утра администратор страницы Kenosha Guard («Гвардия Кеноши») призвал участников по всему Огайо и соседним штатам «взять в руки оружие и защитить город Кеноша от поганых головорезов». Тем же вечером было опубликовано сообщение о мероприятии под названием Armed Citizens to Protect Our Lives and Property («Вооруженные граждане защитят наши жизни и собственность»). Более 300 пользователей отметили, что примут участие в мероприятии, и еще более 2300 выразили к нему интерес. «Я точно планирую убивать мародеров и бунтовщиков сегодня вечером»222, – написал один из пользователей в комментарии на странице. «Сейчас самое время перейти на боевые патроны и положить конец беспорядкам этих разбаловавшихся детей», – там же написал другой. Прочие пользователи указывали, какое оружие (винтовка AR-15) и какие пули (экспансивные с полым наконечником, расширяющиеся при попадании) нанесут наибольший ущерб.