Внутри Facebook. Голая правда - Шира Френкель

Цукерберг относился к речи так же, как к коду, математике и языку. В его понимании система сопоставления фактов с образцом была надежной и эффективной. Ему нужны были четкие правила, которым однажды смогут следовать и которые смогут поддерживать системы искусственного интеллекта, способные работать в разных странах и на разных языках. Отстранение людей с их способностью ошибаться от процесса принятия этих решений было ключевым моментом: люди совершают ошибки, а Цукерберг явно не хотел нести ответственность за принятие решений в каждом конкретном случае. В апреле он выдвинул идею создания внешней комиссии, которая будет принимать решения по самым сложным делам, связанным с выражением мнения, своего рода независимого от компании «верховного суда», который будет иметь право окончательного голоса при обжаловании решений Facebook164.

Во многих областях правил Facebook о контенте мировоззрение Цукерберга работало. Соцсеть запрещала насилие, порнографию и терроризм – в этих случаях системы искусственного интеллекта самостоятельно отлавливали и удаляли более 90 процентов контента. Но когда дело дошло до риторики ненависти, эти системы оказались абсолютно ненадежными. Риторику ненависти нелегко определить: она постоянно меняется и имеет свою культурную специфику. Новые термины, идеи и лозунги появляются ежедневно, и только люди, глубоко погруженные в мир экстремистских и ультраправых движений, культивирующих такую речь, могут уследить за всеми нюансами.

«В идеальном мире Марка существовал нейтральный алгоритм, который применялся повсеместно и решал, что разрешено на Facebook, а что нет, – вспоминает один опытный руководитель компании, который провел много часов в спорах с Цукербергом о достоинствах свободы слова. – Он считал само собой разумеющимся, что (а) это возможно и (б) общественность позволит и примет это».

Злополучное интервью в подкасте ясно показало, что Цукерберг недооценил сложности, связанные со свободой слова, но это лишь утвердило его в собственном мнении. Facebook не может быть арбитром речи.

«Он не мог понять, что речь – не черно-белое понятие, – сказал руководитель, который обсуждал эту тему с Цукербергом. – Его не интересовали нюансы и тот факт, что, когда мы говорим о речи, люди просто чувствуют или знают, когда кто-то перешел границу».

Чтобы показать серьезность намерений компании противостоять вмешательству в грядущие выборы, в кампусе Менло-Парка был создан центральный командный пункт для сотрудников отделов безопасности, инженерного обеспечения, политики и коммуникаций. PR-команда Facebook пригласила избранных журналистов заглянуть в комнату, чтобы те могли начать что-то писать в преддверии выборов. Некоторые сотрудники были смущены этой кампанией, которая, по их мнению, была слишком оптимистичной и рассчитанной на публику.

На случай, если кто-то не понял, в чем назначение комнаты, на двери была приклеена табличка с надписью крупным шрифтом: «Командный пункт». Внутри комнаты на одной стене висел американский флаг, на другой – цифровые часы, показывающие тихоокеанское, восточное и среднее время по Гринвичу, а также время в столице Бразилии Бразилиа – последнее представляло особый интерес для группы, поскольку Facebook тестировала свои новые инструменты в этой стране, где как раз проходили выборы. Несколько огромных экранов на дальней стене отображали информацию, поступающую на централизованную панель управления, которую Facebook создала для отслеживания распространения контента по всему миру. На четвертой стене на многочисленных экранах шла трансляции CNN, MSNBC, Fox News и других телеканалов.

В интервью прессе Цукерберг описал борьбу с вмешательством в выборы как «гонку вооружений» против иностранных и внутренних злоумышленников. Компания наняла десять тысяч новых сотрудников для обеспечения безопасности и модерации контента, а ее служба безопасности выделила больше ресурсов на выявление влияния иностранных кампаний. Летом компания объявила об удалении сети165 российских аккаунтов, направленных на оказание влияния на американцев в преддверии выборов в Конгресс, а также о кампании сотен166 иранских и российских аккаунтов и страниц, занимавшихся дезинформацией от имени своих правительств в Европе и на Ближнем Востоке.

«Я вижу, как мобилизовалась компания, чтобы все это стало возможным, и я очень доволен тем, что мы делаем, – сказал журналистам Самид Чакрабарти, руководитель группы Facebook по выборам и гражданскому участию. – Мы считаем, что это, возможно, самая большая переориентация в масштабах всей компании с момента нашего перехода от настольных компьютеров к мобильным телефонам».

Цукерберг и Сэндберг заверили законодателей, что безопасность выборов является их приоритетом. Среди десяти тысяч новых сотрудников было несколько известных людей с громкими именами в мире разведки и безопасности. Они предложили Яэль Айзенштат, сорокачетырехлетнему ветерану ЦРУ, возглавить команду компании по борьбе с вмешательством в выборы и стать частью отдела по корпоративной этике. Айзенштат была удивлена предложением Facebook: ей и в голову не приходило представить себя в роли сотрудника частной технологической организации с плохим послужным списком в области безопасности выборов. Она почти двадцать лет работала на правительство США в разных точках по всему миру, сражаясь с мировым терроризмом. Она была дипломатом и советником вице-президента Байдена по вопросам национальной безопасности, а также работала в отделе корпоративной ответственности компании ExxonMobil.

Facebook сделала Айзенштат предложение в тот же день в апреле, когда Цукерберг давал показания Конгрессу о Cambridge Analytica. Она смотрела слушания и заинтересовалась его обещанием бросить все ресурсы Facebook на усилия по обеспечению условий для честных выборов, так как безопасность на выборах в Конгресс была его приоритетом. Всю жизнь проработавшая на государственной службе, Айзенштат чувствовала себя обязанной привнести свои навыки в социальную сеть, чтобы помочь защитить американскую демократию, и ей была обещана ведущая позиция в этой борьбе. В трудовом договоре ее должность называлась «руководитель глобальных операций по обеспечению честных выборов». Она могла нанимать столько людей, сколько ей было нужно. У нее не было установленного бюджета.

Празднуя свое новое назначение, Айзенштат написала друзьям и коллегам: «Все в этой должности откликается во мне как в личности. Большую часть своей карьеры и личной жизни я посвятила защите демократии, а теперь мне предстоит продолжить эту борьбу на мировой арене, помогая защищать честные выборы во всем мире. Я не могу представить себе более идеальной роли, которая объединила бы мое мышление государственного служащего с влиянием и масштабом крупнейшей в мире платформы социальных сетей».

Однако с первого дня работы Айзенштат в Менло-Парке, 10 июня, несоответствие было очевидным. Мотивационные плакаты в кампусе и выставленные напоказ дорогие произведения искусства казались ей отталкивающими. Она чувствовала себя так, будто попала в туман пропаганды. Бесплатные бонусы – еда, транспортные средства и гаджеты – показались ей чрезмерными.

На второй день работы ей сказали, что в названии ее должности допущена ошибка. Она не была «главой» какой-либо команды, а вместо этого получила туманное название «менеджер». Руководство Facebook не только не сообщило компании о создании новой должности для нее, но и отменило саму должность, не удосужившись даже поговорить с Айзенштат. «Я была в замешательстве. Они сами предложили мне эту роль. Именно они сказали, как сильно нуждаются во мне и как им важно иметь сотрудника с моими знаниями, – вспоминает она. – В происходящем не было никакого смысла».