Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти - Шошана Зубофф

Было время, когда вы искали в Google, но теперь Google обыскивает вас. В рекламе Google Home фигурируют любящие семьи, которые ведут занятую, сложную жизнь, но с видимым облегчением возвращаются домой и падают в объятия этого всезнающего, эффективного смотрителя. Эта сбывшаяся мечта второго модерна требует необычайно высокую плату за обещание более полноценной жизни. Чтобы каждый пользователь мог, как хочет Пичаи, иметь свой собственный личный Google, Google должен иметь каждого пользователя[697].

Способность смотрителя эффективно вам служить полностью зависит от того, в какой степени ваша жизнь, знаете вы об этом или нет, оцифрована ради его служения. Ширина и глубина оцифрованной жизни соответствуют масштабу рыночных действий, которые могут быть инициированы и опосредованы Ассистентом. Между различными инкарнациями «персонализации» и «помощи», предлагаемыми техническими гигантами, существуют определенные различия, но они тривиальны по сравнению с коллективным стремлением к тотальному знанию – знанию о ваших внутренних состояниях, контексте реального мира и конкретных повседневных жизненных действиях – и все это ради успешного обучения машин, чтобы они могли лучше нацеливать рыночные операции на каждый момент вашей жизни.

Все потенциальные действия рынка, связанные с тем, что вы говорите, зависят от голосовой активации, распознавания голоса и голосового ответа. Все это, в свою очередь, – продукт сложнейших машинных систем, обученных на безграничных глобальных запасах произнесенных слов. Чем лучше эти машины структурируют разговорный излишек, тем больше продаж обеспечивает его контент. Это значит, что всю ценность того, что вы говорите, нельзя реализовать без машин, которые смогут извлекать информацию из того, как вы это говорите. Эта форма излишка основана на структуре вашей речи – словарном запасе, произношении, интонации, модуляциях, темпе, диалекте.

Соперничество за поставки слов превращает ваши фразы в эту вторую форму излишка, по мере того как компании, настроенные на развитие и совершенствование голосовых возможностей, прочесывают весь мир в поисках человеческой речи. «Amazon, Apple, Microsoft и китайский Baidu открыли всемирную охоту за терабайтами человеческой речи, – сообщает издание Bloomberg Businessweek. – Microsoft построил в городах всего мира демонстрационные „квартиры“ для записи голосов добровольцев в домашней обстановке». Технологические компании фиксируют потоки разговоров со своих умных интеллектуальных устройств и смартфонов, записывая и сохраняя ваши слова. Китайская поисковая фирма Baidu собирает речь на каждом диалекте: «Затем они берут все эти данные и обучают на них свои компьютеры понимать слова и отвечать на команды и запросы»[698].

Записи ваших разговоров регулярно и массово рассылаются сторонним фирмам, которые проводят «аудиосверку», в процессе которой виртуальным оценщикам поручается оценить степень соответствия между машинным текстом и исходным фрагментом человеческой речи, прослушивая аудиозаписи, сохраненные со смартфонов, приложений-мессенджеров и цифровых помощников. Такие компании, как Amazon, Google и Microsoft, используют этот аудиоанализ для совершенствования алгоритмов своих голосовых систем. Технологические компании настаивают, что такие записи полностью анонимны и представляют собой не более чем безымянные голоса. «У партнеров нет возможности связать образцы голоса с конкретными людьми», – заявил представитель Microsoft. Но одна журналистка, которая нанялась на работу в качестве виртуального оценщика аудиозаписей, пришла к совершенно противоположному выводу, слушая записи, полные страсти, интимных деталей и легко идентифицируемой личной информации:

На распознавание речи направляются также немалые капиталовложения, и Smart TV от Samsung иллюстрирует некоторые из этих закулисных процессов. Бизнес-аналитики регулярно предсказывают устойчивый рост рынка устройств с интернет-подключением, и Samsung входит в небольшую группу лидеров этого рынка. Его устройства используют платформу операционной системы Android, и еще на ранних этапах фирма создала альянсы с Nest (дочерней компанией Alphabet/Google) и с Cisco. «Наша первоочередная миссия – добавить в вашу сетевую жизнь ваш дом», – объяснял в 2014 году один из высших руководителей фирмы[700]. В 2015 году защитники конфиденциальности обнаружили, что умные телевизоры корпорации даже слишком умны и записывают все сказанное в непосредственной близости от них – дай, пожалуйста, соль; у нас кончился стиральный порошок; я беременна; давайте купим новую машину; мы собираемся в кино; у меня редкая болезнь; она хочет развода; ему нужна новая коробка для завтрака; ты меня любишь? – и отправляют все эти разговоры для транскрибирования другому лидеру рынка систем в области распознавания голоса, компании Nuance Communications[701].

«Политика надзора» этого телевизора – да-да, даже к телевизору сегодня прилагается политика надзора – раскрывает несколько уровней надзора и коммерческого интереса, действующих неведомо для нас в наших домах. Samsung признает, что голосовые команды, предназначенные для запуска функций распознавания голоса на телевизоре, отправляются третьей стороне, и добавляет: «Пожалуйста, имейте в виду, что, если произнесенные вами слова содержат личную или другую конфиденциальную информацию, то эта информация окажется среди данных, записанных и переданных третьей стороне при использовании Распознавания голоса»[702]. Samsung отказывается от ответственности за политику сторонних фирм, как это делают почти все «политики надзора», включая политику той фирмы, которая фактически собирает и переводит разговоры своих ничего не подозревающих клиентов. Samsung рекомендует: «Вам следует проявлять осторожность и просматривать заявления о конфиденциальности, относящиеся к сторонним веб-сайтам и услугам, которыми вы пользуетесь»[703]. Отважный потребитель, решившийся изучить эти документы, не найдет никакой подмоги в политике конфиденциальности Nuance, только тот же самый катехизис, который предлагает Samsung и почти любая другая компания. Samsung также побуждает вас ознакомиться с политикой конфиденциальности тех компаний, которым он продает ваши разговоры, и так далее: принудительный марш, ведущий к безумию или к капитуляции[704].