Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти - Шошана Зубофф

«Мы привыкли к общению лицом к лицу, когда слова растворяются в воздухе Я предполагал, что клавиатурное общение будет похоже на письмо или телефонный звонок, но теперь я понимаю, что оно не растворяется. То, что электронное общение невидимо – миф…»[725] Это был блестящий ученый-исследователь в крупной фармацевтической компании, которую в своей книге 1988 года «Эпоха умных машин» я назвала «Корпорация Лекарство» (Drug Corp)[726]. Я тогда провела несколько лет, посещая их исследовательскую группу, и они как раз переводили большую часть своего повседневного общения с личных встреч на DIALOG, одну из первых в мире систем «компьютерных конференций». DIALOG был предшественником технологии, которую мы теперь называем социальной сетью. Платформа DIALOG создала новое социальное пространство, в котором научное сообщество Корпорации Лекарство расширяло и совершенствовало «сети своих отношений, доступа к информации, вдумчивого диалога и простой болтовни», как я описывала это тогда. Они встретили DIALOG с большим энтузиазмом, но закончилось все печально. «Со временем, – писала я, – стало ясно, что они также невольно поставили все то мимолетное и неощутимое, что было в их социальном обмене, под беспрецедентный контроль сверху». По интервью, которые охватывают те годы, можно документально проследить постепенное осознание учеными новых опасностей по мере того, как те стороны личного опыта, которые были прежде неявными и приватными, внезапно становились явными и публичными, чего они не ожидали и что имело последствия, о которых они глубоко пожалели.

Благодаря новой компьютерной среде профессиональные разговоры и дружеское общение ученых теперь стали электронным текстом – видимым, доступным для изучения и отправки другим. Во многих отношениях это помогало в работе, но это также создало неожиданные уязвимости, поскольку склонности, ценности, отношения и социальные взаимодействия превратились в объекты проверки. В ходе серии конфликтов, которые разворачивались на протяжении этих лет, я наблюдала, как менеджеры и руководители Корпорации Лекарство просто не могли удержаться от того, чтобы не использовать новый социальный текст в качестве средства оценки, критики и наказания. Не раз я наблюдала за тем, как менеджеры распечатывали страницы разговоров из DIALOG, чтобы разложить их на полу и проанализировать мнения по конкретному вопросу, иногда даже доставая ножницы и сортируя записи по темам или персоналиям. Во многих случаях эти расследования были просто сбором информации, но нередко менеджеры хотели идентифицировать людей, согласных или не согласных с их распоряжениями.

Неустранимое свидетельство текста было адаптировано в качестве средства, с помощью которого менеджеры пытались «контролировать и направлять то, что всегда было наиболее эфемерными аспектами поведения подчиненных»[727]. Весь первоначальный энтузиазм и все надежды растворились в цинизме и тревоге, и ученые постепенно стали уходить с DIALOG, предпочитая ему обычное почтовое приложение и более формальные, безличные сообщения.

Спустя десятилетия дети и внуки этих ученых наряду с большинством из нас свободно общаются через смартфоны и социальные сети, не понимая, что нам предстоит вновь выучить горькие уроки Корпорации Лекарство, но теперь на совершенно новом витке оцифровки. Ученые были потрясены, увидев свои случайные разговоры в овеществленном виде, превращенные в объект иерархической проверки. Сегодня уже наша внутренняя жизнь – упрощенно обозначаемая как «индивидуальность» или «эмоции» – превращаются в сырье, доступное каждому, кто может изготовить или купить новое поколение аксессуаров для поставок излишка и средства производства, чтобы анализировать этот новый род поведенческого излишка и фабриковать крайне прибыльные прогнозные продукты.

«Персонализация» – это снова тот эвфемизм, который прокладывает путь поколению прогнозных продуктов, фабрикуемых из сырья психологии личности. Эти нововведения продолжают логику более ранних витков цикла изъятия – от просмотра страниц в интернете через просмотр реальности – к просмотру личности. Как было и на предыдущих витках, идеи и методы, которые когда-то должны были помогать и обогащать, быстро исчезают в магнитном поле проекта коммерческого надзора, чтобы потом вновь возникнуть в качестве все более хитроумных способов поставки, производства и продаж.

Два с лишним миллиарда пользователей Facebook – это и есть потомки ученых из Корпорации Лекарство. Многие из них пришли в Facebook, чтобы избежать всепроникающего иерархического контроля над коммуникациями на рабочем месте, который стал обычным явлением в годы, прошедшие после первых экспериментов Корпорации Лекарство. Facebook, как они когда-то думали, был «их местом», столь же невинным и само собой разумеющимся, как старая добрая «Мамаша Белл»[728] необходимым местом сбора, общения и участия. Вместо этого Facebook стал одним из самых влиятельных и опасных источников прогнозного поведенческого излишка из глубин личности. С приходом нового поколения исследовательских инструментов он научился грабить ваше «я» вплоть до его самой интимной сердцевины. Новые операции по снабжению могут оцифровать в виде измеримого поведения все, от нюансов вашей личности до вашего чувства времени, сексуальной ориентации, интеллекта и десятков других психологических характеристик. Огромные мощности машинного интеллекта, которыми располагает корпорация, превращают эти данные в яркие прогнозные продукты.

Почва для осознания того, с какой легкостью можно обобрать ваш профиль в Facebook, начала готовиться в 2010 году, когда коллектив немецких и американских ученых пришел к неожиданному выводу, что профили Facebook – вовсе не идеализированные автопортреты пользователей, как многие думали. Вместо этого они обнаружили, что информация на Facebook отражает реальные черты личности пользователя, которые можно выявить с помощью проверенной процедуры «пятифакторной модели личности» и которые можно сопоставить с тем, как сами участники исследования описывали свое «идеальное Я»[729].