Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти - Шошана Зубофф

Потребность в массовости питала неустанный поиск новых крупномасштабных источников поведенческого излишка, создавая конкурентную динамику, нацеленную на завладение этими поставками сырья и на поиски беззащитных территорий беззакония, где можно было бы проворачивать эти нежданные и мало кому понятные акты изъятия. Все это время надзорные капиталисты скрытно, но неуклонно приучали нас к своим притязаниям. В результате наш доступ к необходимой информации и услугам стал заложником их деятельности, наши средства участия в социальной жизни слились с их интересами.

Высокоприбыльные прогнозные продукты зависят от поведенческого излишка, а конкуренция вывела проблемы с поставками на новый уровень, отраженный в императиве прогнозирования. Более мощные прогнозные продукты требовали экономии не только за счет масштаба, но и за счет охвата, не только за счет объема, но и за счет разнообразия. Это разнообразие существует в двух измерениях. Первое – это разнообразие вширь с охватом различных видов человеческой деятельности; второе – это глубина прогнозных деталей в рамках каждого вида деятельности.

На этом новом этапе конкурентной гонки надзорные капиталисты вынуждены выбраться из виртуального мира в реальный. Эта миграция требует новых машинных процессов для оцифровки всех аспектов человеческого опыта в виде поведенческих данных. Сегодня конкуренция разворачивается в контексте быстро растущей глобальной архитектуры повсеместной компьютеризации и, следовательно, повсеместных операций снабжения, и все чаще ожидается, что прогнозные продукты будут приближаться к определенности и, следовательно, гарантировать поведенческие исходы.

На третьем этапе конкурентной гонки надзорные капиталисты обнаружили необходимость экономии за счет действия, применяя новые методы, которые выходят за рамки отслеживания, сбора, анализа и прогнозирования поведения, и начинают вмешиваться в ход игры и активно формировать поведение у его истока. В результате средства производства подчиняются сложнейшим новым средствам изменения поведения, которые опираются на различные машинные процессы, методы и тактики (подстройка, понуждение, обусловливание) для формирования поведения индивидов, групп и обществ способами, которые дают все большее и большее приближение к гарантированным исходам. Подобно тому как промышленный капитализм был одержим постоянной интенсификацией средств производства, надзорные капиталисты сегодня оказались заперты в цикле непрерывной интенсификации способов изменения поведения.

Интересы надзорных капиталистов сместились с использования автоматизированных машинных процессов, помогающих узнать о вашем поведении, на использование машинных процессов, помогающих формировать ваше поведение в соответствии с их интересами. Другими словами, эта траектория длиной в полтора десятилетия привела нас от автоматизации потоков информации о вас к автоматизации вас самих. В условиях роста повсеместной компьютеризации стало трудно, а может и невозможно, избежать неумолимых пут этой дерзко расставленной паутины.

Чтобы вновь обрести наши ориентиры, я просила возродить чувства удивления и возмущения. Но, самое главное, я призывала отвергнуть фаустовский пакт об участии в обмен на изъятие, требующий нашего подчинения средствам изменения поведения, построенным на фундаменте деклараций Google. Но я помню, что, когда мы спрашиваем «как это сошло им с рук?», есть много веских доводов, каждый из которых стоит рассмотреть, но ни один из которых не работает сам по себе. Вместо простых причинно-следственных связей ответы на наш вопрос образуют обширную панораму истории, случайностей, зыбучих песков и принуждения.

Наш вопрос вызывает еще большую досаду в свете того факта, что в подавляющем большинстве опросов, призванных выявить отношение публики к утрате конфиденциальности и другим сторонам деятельности надзорного капитализма, мало кто из нас поддерживает статус-кво. В сорока шести из сорока восьми крупных опросов, проведенных в период с 2008 по 2017 год, значительное большинство поддерживает меры по улучшению конфиденциальности и контролю пользователей над личными данными. (Только два ранних опроса дали несколько менее определенные результаты, потому что очень многие участники указали, что они не понимают, как или какая именно личная информация собирается.) Действительно, уже к 2008 году было надежно установлено, что чем больше человек осведомлен о «конфиденциальности в интернете», тем вероятнее, что он будет сильно обеспокоен конфиденциальностью[890].

Хотя опросы различались по своей направленности и конкретным вопросам, основные тенденции проявлялись настолько последовательно, что это заслуживает внимания. К примеру, один серьезный опрос 2009 года показал, что, когда американцы получают информацию о том, как компании собирают данные для целевой интернет-рекламы, от 73 до 86 % из них отвергают такую рекламу. Другое заметное исследование, проведенное в 2015 году, обнаружило, что 91 % респондентов не согласны с тем, что сбор личной информации «без моего ведома» является справедливой уступкой ради снижения цены. 55 % не согласились с тем, что это справедливо в обмен на более качественные услуги. В 2016 году исследователи из Pew Research сообщили, что только 9 % респондентов «вполне уверены», что стоит доверять сайтам социальных сетей свои данные, и 14 % – что следует доверять личные данные компаниям. Более 60 % хотели делать больше для защиты своей конфиденциальности и считали, что должно быть более значительное правовое регулирование защиты конфиденциальности[891].

Фирмы надзорного капитализма, как правило, отмахивались от результатов этих опросов, указывая вместо этого на впечатляющий рост выручки и количества пользователей. Это несоответствие осложнило исследования и формирование государственной политики. Как получилось, что эта рыночная форма смогла добиться такого успеха, когда столько людей отвергают практики надзорного капитализма, даже с учетом того, как мало большинство из нас действительно что-то знает об этих практиках? Причин множество:

1. Беспрецедентность: Большинство из нас не оказало сопротивления ранним вторжениям Google, Facebook и других операций надзорного капитализма потому, что было невозможно понять, чем они отличались от всего им предшествовавшего. Основные операционные механизмы и методы ведения бизнеса были настолько новыми и странными, настолько абсолютно не похожими ни на что другое, что все, что мы смогли увидеть, – это стайка «инновационных» безлошадных экипажей. И что самое важное: тревога и бдительность сконцентрировались на известных угрозах в виде надзора и контроля, исходящих от государственной власти. Предыдущие вторжения масштабной поведенческой модификации рассматривались как часть государственной политики, и мы не были готовы к натиску со стороны частных фирм.