Стеклянная клетка. Автоматизация и мы - Николас Дж. Карр

Все это звучит очень заманчиво, но является весьма ограниченным. Google отсеивает интуицию человека, его любопытство. Он омывает заразную неразбериху города антисептиком алгоритмов. Теряется самая важная достопримечательность города, как общественного места, где живет масса самых разнообразных людей. «Урбанизм Google, – пишет известный критик новых технологий Евгений Морозов, – это урбанизм человека, пытающегося проехать в торговый центр на самоуправляющемся автомобиле. Это утилитарный урбанизм, даже, можно сказать, эгоистический, не придающий никакого значения тому, как должен человек воспринимать публичное пространство. В мире Google – это досадная помеха, которая стоит между вами и рестораном, куда вы очень хотите попасть» [34]. Целесообразность побеждает все.

Социальные сети заставляют нас сообщать сведения о себе в виде, соответствующем интересам и предпочтениям компаний, которые поддерживают эти сети. Facebook с помощью своей «временной линейки» побуждает членов сети думать о своем публичном имидже, считая его неотделимым от собственного «я». Компания хочет запереть пользователя в унифицированное «я», которое существует в неизменном виде всю жизнь, начиная с раннего детства и заканчивая смертью. Такое понимание человеческой идентичности соответствует узкому представлению учредителей сети о самости и ее возможностях. «У вас одна и только одна идентичность, – сказал однажды Марк Цукерберг. – Очень быстро подходит к концу время, когда вы имели отличающиеся образы в глазах разных людей: один для друзей, другой для сослуживцев, третий для всех остальных». Мало того, он утверждает, что «два образа одного и того же человека говорят о расщеплении его личности» [35]. Эта точка зрения совпадает со стремлением Facebook упаковать членов этой социальной сети в аккуратные и прозрачные наборы данных, выгодных для рекламодателей. Для компании здесь кроется еще одна выгода, так как отпадает необходимость в соблюдении конфиденциальности личных данных. Если многообразие образов личности говорит об отсутствии ее цельности, то попытки удержать при себе определенные мысли или поступки свидетельствуют, с точки зрения Facebook, о слабости характера. Однако сама концепция индивидуальности, которую он навязывает своими программами, является поистине удушающей. Индивидуальность – предмет не фиксированный. Она возникает в результате рефлексии и меняется в зависимости от обстоятельств. Особенно это верно в юности, когда восприятие человеком самого себя изменчиво и непостоянно и постоянно является предметом испытаний, экспериментов и пересмотров. Замкнутость в одной индивидуальности, особенно на заре жизни, может закрыть путь к росту и совершенствованию личности.

Каждый фрагмент программного обеспечения содержит подобные скрытые допущения. Поисковые системы и автоматизированные интеллектуальные вопросники весьма популярны в сравнении с разнообразием мнений, строгостью аргументации или качеством выражения мыслей. Как и все аналитические программы, они тяготеют к критериям, поддающимся статистическому анализу, отбрасывая мнения людей, для проверки которых нужен вкус или иные субъективные суждения. Автоматизированные алгоритмы выставления оценок мотивируют школьников и студентов к овладению методиками механического письма. Программы глухи к тональности речи, их не интересуют нюансы знания, и они активно сопротивляются нестандартным творческим оборотам речи. Талантливое нарушение грамматических правил может восхитить читателя, но оно – подлинное проклятье для компьютера. Рекомендующие устройства, предлагающие посмотреть какой-то фильм или познакомиться с потенциальным любовником, потворствуют нашим тривиальным желаниям, а не бросают нам вызов, предлагая что-то новое и неизведанное. Они молчаливо предполагают, что мы предпочитаем обыденность приключениям и предсказуемость капризным поворотам судьбы. Технологии домашней автоматизации, позволяющие программировать освещение, отопление, готовку и развлечения, придают частной жизни привкус тейлоризма.[30] Эти технологии исподволь подталкивают людей к приспособлению под заданные консервативные схемы, делая дом похожим на рабочее место.

Пристрастие к компьютерным программам может искажать как общественно значимые решения, так и личные. Продвигая свои самоуправляющиеся автомобили, Google утверждает, что они позволят резко сократить число дорожно-транспортных происшествий. «Известно ли вам, что дорожные аварии – это причина смерти номер один среди молодых людей? – вопрошал Себастьан Трун в 2011 году. – Понимаете ли вы, что почти все эти аварии являются следствием человеческих ошибок, а машины могут их предотвратить?» [36] Аргумент Труна звучит весьма убедительно. Регулируя правила таких опасных видов деятельности, как вождение автомобиля, общество уже давно отдает приоритет безопасности, и поэтому все одобряют роль, которую технологические новации могут сыграть в снижении риска несчастных случаев и травм. Но даже в этом картина не является такой черно-белой, какой рисует ее Трун. Способность самоуправляющихся автомобилей предотвращать аварии и несчастные случаи – пока вещь чисто гипотетическая. Как мы уже видели, связь между автоматизацией и человеческими ошибками является довольно сложной; взаимодействие человека и машины редко протекает по заранее написанному сценарию. Более того, цели общества тоже отнюдь не однородны. Люди всегда знали, что законы и моральные нормы предполагают некий компромисс между безопасностью и свободой. Мы допускаем, а иногда и поощряем опасные виды деятельности. Полная, насыщенная жизнь – это не полностью упорядоченное и размеренное существование. Даже устанавливая ограничения скорости на дорогах, общество, помимо безопасности, должно учитывать и другие цели дорожного движения.

Эти компромиссы, какими бы трудными и политически спорными они ни были, формируют тип общества. Вопрос заключается в том, хотят ли люди уступить право выбора компаниям, производящим компьютерные программы? Если рассматривать автоматизацию как панацею от всех бед, то исключается всякий иной выбор. Если броситься в объятия самоуправляющихся автомобилей, то тем самым не только ограничится личная свобода и ответственность каждого, но и не получится испробовать другие пути снижения риска аварий – например, повышение квалификации водителей или развитие общественного транспорта.

Стоит отметить, что озабоченность деятелей Кремниевой долины безопасностью движения, при всей ее искренности, была несколько избирательной. Отвлечение внимания водителей от дороги в результате пользования за рулем телефонами и смартфонами стало главным фактором увеличения числа дорожных аварий. В 2012 году, по данным Совета национальной безопасности (National Security Council), пользование телефоном за рулем стало причиной одной четверти всех дорожно-транспортных происшествий на дорогах США [37]. Тем не менее ни Google, ни другие фирмы, занятые разработкой высоких технологий, не сделали ничего для создания программ, которые помешали бы людям, ведущим машину, говорить по телефону, писать сообщения или пользоваться компьютером. Думается, что эту задачу решить легче, чем создать полностью автономный самоуправляющийся автомобиль. Google даже послал своих лоббистов в столицы штатов с тем, чтобы блокировать принятие законов о запрете водителям носить «умные очки» Google и другие отвлекающие оптические устройства. Важный вклад, который компьютерные компании могут внести в благополучие общества, конечно, должен приветствоваться, но нельзя путать интересы каждого человека с интересами компаний.