Стеклянная клетка. Автоматизация и мы - Николас Дж. Карр

Сонет Фроста, помимо всего прочего, содержит произнесенное шепотом предостережение об этических угрозах технологии. Крестьянской косе присуща определенная жестокость. Она, не раздумывая, срезает и нежные белые ятрышники вместе с травой.[34] Лезвие косы пугает мелких животных, например яркую зеленую змею. Если технология воплощает наши мечты, то она же воплощает и другие, менее приятные качества нашей сущности: волю к власти, надменность и черствость. Позже Фрост вернулся к этой теме в следующем стихотворении о косьбе – «Thе Tuft of Flowers» («Горстка цветов»). Рассказчик идет по скошенному лугу и, следя глазами за полетом бабочки, вдруг видит среди скошенной травы «цветов рядок», который «коса оберегла»:

Фрост с характерной для него деликатностью говорит нам, что инструмент – это не просто помощник в работе. Он всегда предполагает нравственный выбор, и его применение влечет за собой моральные последствия. От нас как от пользователей и изготовителей орудий зависит, мудро ли мы будем направлять их холодные клинки. Работа с инструментами требует бдительности и доброты.

Косой до сих пор пользуются во многих мелких фермерских хозяйствах во всех частях света. Но в крупных хозяйствах ей уже нет места – в промышленном сельскохозяйственном производстве, как и на современных фабриках, в домах и учреждениях, появились более сложные и эффективные орудия, оборудование и инструменты. Молотилка изобретена в восьмидесятые годы XVIII века, механическая жатка появилась в 1835 году, сенной пресс придумали спустя несколько лет, а уборочный комбайн начали производить серийно в конце XIX века. Во все последующие десятилетия темп технологического развития лишь ускорялся, и сегодня эта тенденция подошла к своему логическому завершению – к компьютеризации сельского хозяйства. Работа на земле, которую Томас Джефферсон считал самым благородным в мире занятием, все больше и больше перекладывается на плечи машин. Рабочие руки заменяются «автоматическими тракторами» и другими роботами, которые, используя датчики, спутниковые сигналы и программное обеспечение, сеют зерно, удобряют и пропалывают почву, собирают и обрабатывают урожай, доят коров и ухаживают за скотиной [23]. Разрабатываются роботы-пастухи, которые скоро начнут гонять стада на пастбища. Если коса порой и прошелестит где-то на промышленной ферме, то ее все равно никто не услышит.

Сама конструкция ручных инструментов заставляет нас брать на себя ответственность за их применение. Поскольку мы рассматриваем такие орудия как продолжение нашего тела, мы просто вынуждены делать во время работы тот или иной этический выбор. Не коса, а косарь решает, срезать красивый цветок или пощадить его. По мере того как мы набираемся опыта во владении инструментом, возрастает и чувство ответственности за его правильное использование. Новичок может ощущать косу как инородное тело в руках; у опытного косца инструмент и руки превращаются в одно целое. Это ощущение физического и этического единства не пропадает по мере усложнения техники. В рассказе о своем перелете через Атлантику в одиночку в 1927 году Чарльз Линдберг говорил о самолете и себе как о едином целом: «Мы совершили этот перелет через океан, а не я или он» [24]. Самолет – это сложнейший механизм, состоящий из множества деталей, но для квалифицированного пилота он все равно становится подобием ручного инструмента. «Любовь, что рядами на землю уложит луг» – это та же любовь, что разгоняет облака перед человеком, сидящим за штурвалом самолета.

Компьютерная автоматизация ослабляет связь между орудием и работником не вследствие своей сложности, а потому, что почти ничего от него не требует. Работа автоматизированной системы скрыта от глаз, зашифрованная компьютерными кодами. Система сопротивляется любой попытке оператора проникнуть за этот барьер. Работа на компьютере не требует утомительного обучения и высокой квалификации. Автоматизация производит на людей анестезирующий, наркотический эффект. Мы больше не ощущаем наши инструменты как части тела. В конструктивной, вышедшей в 1960 году статье «Man-Computer Symbiosis» («Симбиоз человека и компьютера») психолог и инженер Дж. Ликлидер очень хорошо описал сдвиг в нашем отношении к технологии. «В ранних системах человек-машина человек проявлял инициативу, задавал направление, осуществлял интеграцию работы и определял критерии. Механические части машин были лишь продолжением сначала человеческой руки, а потом глаза. Внедрение компьютеров решительно изменило все. “Механическое продолжение” привело к вытеснению человека и автоматизации, в которой не машина находится на подхвате у человека, а человек – на подхвате у машины» [25]. Чем глубже проникает автоматизация в жизнь человека, тем больше поводов рассматривать технологию как неумолимую, безжалостную и чужеродную силу, на которую мы не способны оказать никакого влияния, не говоря уж о том, чтобы управлять ею. Попытки что-то изменить представляются нам тщетными.

Если человек безропотно примет эту подчиненную роль – что вполне объяснимо и понятно, – то уклонится от ответственности за ход технического и социального прогресса. Да, в автоматическом комбайне за штурвалом никого нет, но этот комбайн в такой же мере произведение сознательной человеческой мысли, что и скромная коса. Человек не включает такие машины в свое сознание, как делает это с ручными инструментами, но с точки зрения этики они тем не менее являются продолжением его воли. Их намерения – это намерения человека. Если робот пугает (или, еще хуже, убивает) яркую зеленую змею, то виноват в этом не он. По мере того как компьютерные системы и программные приложения играют все бо́льшую роль в организации жизни человека и окружающего мира, возрастает наша обязанность строже подходить к решениям об использовании автоматизации.

Если это звучит наивно и беспомощно, то только потому, что избран неверный подход. Взаимодействие человека с высокими технологиями складывается не как отношения тела и его части, не как отношения братьев, а как отношения хозяина и раба. Эта идея отнюдь не нова. Она возникла на заре западной философской мысли уже в древних Афинах [26]. Аристотель, обсуждая устройство домохозяйства в начальных главах своей «Политики», утверждал, что рабы и орудия суть одно и то же, ибо первые работают как «одушевленные орудия», а вторые – как «неодушевленные орудия», равно подчиняясь хозяину дома. Аристотель говорил, что если бы неодушевленные орудия вдруг стали бы одушевленными, то ими можно было бы заменить рабов. «Существует только одно условие, при котором мы можем вообразить себе управляющих, не нуждающихся в подчиненных, и хозяев, не нуждающихся в рабах, – размышлял философ, видимо, предвосхищая появление компьютерной автоматики и машинного обучения. – Это условие заключается в том, чтобы каждое [неодушевленное] орудие могло самостоятельно выполнять свою работу либо по слову команды, либо по собственному умственному разумению. …Это было бы то же самое, как, если бы челнок сам начал ткать, а плектр [35] играть на арфе» [27].