Стеклянная клетка. Автоматизация и мы - Николас Дж. Карр

Вопрос о том, как распределяются когнитивные функции в мозгу, сенсорных органах и остальных частях тела, является пока предметом интенсивных исследований и оживленных дебатов, а некоторые более экстравагантные утверждения адептов внутренней когнитивистики о том, что индивидуальный разум вообще простирается за пределы организма, остаются противоречивыми и недоказанными. Ясно пока только одно: неверно и дальше отделять мышление от физического бытия, так же как отделять физическое бытие от породившего нас окружающего мира. «Ничто в человеческом опыте не остается нетронутым внутренними процессами, – пишет философ Шон Галлахер, – от простейших процессов восприятия и эмоциональных реакций, которые начинают протекать уже в младенчестве, до сложных взаимодействий с другими людьми; от усвоения и творческого использования языка до высших когнитивных способностей, включающих возможность понимать иносказания и формировать суждения; от проявления свободы воли в целенаправленных действиях до создания произведений искусства, помогающих людям лучше понять окружающий их мир» [57].

Идея внутренней когнитивистики, по мнению Галлахера, помогает объяснить, почему человеческий род проявляет такую невероятную способность к прогрессу техники. Настроенные на окружающую среду наш мозг и тело быстро включают орудия и другие предметы в мыслительные процессы и начинают трактовать их как часть собственного тела. Если вы ходите с тросточкой, работаете молотком или фехтуете на шпагах, то ваше подсознание включит эти орудия в нейронную карту тела. Способность нервной системы соединять тело и предметы не уникальна для человека. Обезьяны пользуются палками, чтобы добывать муравьев и термитов, слоны берут зеленые ветки для того, чтобы отгонять насекомых, дельфины, когда раскапывают морское дно в поисках пищи, пользуются губками, чтобы не поцарапаться о камни. Однако высшая способность Homo sapiens к осознанным умозаключениям и планированию позволяет нам конструировать изощренные орудия и инструменты для самых разнообразных целей, расширять наши ментальные и физические возможности. В нас заложена древняя склонность к тому, что Кларк определяет термином «когнитивная гибридизация», – к смешиванию биологического и технологического, внутреннего и внешнего [58].

Легкость, с которой мы делаем технологию частью самих себя, может обернуться против нас самих. Передача власти орудиям не всегда идет человеку на пользу. Величайшая ирония нашего времени заключается в том, что, несмотря на открытия ученых о важной роли, которую играют в развитии мышления и памяти навыки физического действия и сенсорное восприятие реальности, мы проводим все меньше времени в реальном мире и все больше – в абстрактной среде компьютерного экрана. Люди сами лишают себя функций собственного тела, накладывая сенсорные ограничения на бытие. В виде компьютеров общего назначения мы ухитрились (достаточно извращенно) создать инструмент, который украл у нас телесную радость работы с инструментами.

Наше интуитивное, но ошибочное убеждение в том, что интеллект работает независимо от тела, привело к пренебрежению реальным миром.

От этого суждения недалеко до уверенности в том, что компьютер является достаточным и к тому же превосходным инструментом, выполняющим работу мозга. Специалист из Google Майкл Джонс считает за данность, что благодаря картам Google и другим онлайновым приложениям компании IQ людей повысился на 20 баллов [59]. Обманутые нашим собственным мозгом, мы полагаем, что не жертвуем ничем жизненно важным, полагаясь на различные компьютерные программы: навигационные, проектирования зданий и другие, требующие развитого мышления и изобретательности. Хуже того, мы забыли о том, что существуют альтернативы, и игнорируем саму возможность перестроить компьютерные программы так, чтобы они не ослабляли наше восприятие мира, а усиливали его. Специалисты по эргономике и другие эксперты по автоматизации нашли способы разбить «стеклянную клетку», не уничтожая преимуществ, которыми наградили нас компьютеры.

Кому вообще нужны люди?

Этот вопрос в той или иной риторической форме неизбежно возникает в спорах об автоматизации. Если люди по сравнению с компьютерами выглядят медлительными, неуклюжими и склонными к ошибкам, то почему бы не построить безупречную самоуправляющуюся систему, которая функционировала бы без вмешательства человека, а заодно и без его промахов? Почему бы не исключить из уравнения человеческий фактор?

«Нам нужно все перепоручить роботам», – объявил теоретик по технологии Кевин Келли в 2013 году в статье, напечатанной в журнале Wired. Ссылаясь на авиацию, он заявил: «Компьютерный мозг, называемый автопилотом, может без всякой посторонней помощи управлять Boeing-787, но мы по какой-то иррациональной причине сажаем в кабину пилотов, чтобы на всякий случай следить за автопилотом» [1]. Новость о том, что автомобиль Google попал в аварию из-за того, что в тот момент машиной управлял человек, заставила одного из блогеров в сердцах воскликнуть: «Нужно больше роботов-водителей!» [2] Комментируя трудности, с которыми столкнулись общественные школы в Чикаго, обозреватель The Wall Street Journal Энди Кесслер полушутя заметил: «Почему бы нам не забыть об учителях? Вместо них надо снабдить каждого ученика iPad или планшетом с Android?» [3] В 2012 году уважаемый в Кремниевой долине венчурный капиталист Винод Кхосла предположил, что здравоохранение можно было бы значительно улучшить, если бы медицинская компьютерная программа (доктор Алгоритм, как назвал ее Кхосла) перестала быть помощником врача, а заменила бы его полностью. «В конце концов, – писал Кхосла, – отпадет нужда в среднем враче» [4]. Лекарством от несовершенной автоматизации объявляется тотальная автоматизация.

Идея соблазнительная, но от нее за милю отдает упрощенчеством. Машины наследуют пороки и заблуждения своих создателей. Рано или поздно любая, даже самая передовая технология отказывает, ломается или, как в случае компьютеризованных систем, сталкивается с ситуацией, которую не предвидели ни конструкторы, ни программисты. В этом случае алгоритм становится в тупик. В начале 2009 года, всего за несколько недель до катастрофы в Буффало, у аэробуса А320 компании US Airways отказали все двигатели из-за столкновения со стаей гусей при взлете из нью-йоркского аэропорта La Guardia. Действуя умело и хладнокровно, капитан Чесли Сулленбергер и его второй пилот Джеффри Скайлс смогли в течение трех решающих минут плавно посадить машину в реку Гудзон. С борта удалось снять всех пассажиров и экипаж. Если бы на борту этого А320 не было «нянек» в лице пилотов, то все, кто находился на борту, погибли бы почти неминуемо, ибо у пассажирских лайнеров все двигатели сразу выходят из строя очень и очень редко.

Но иногда пилоты спасают машины при механических поломках, отказах автопилота, плохой погоде и неожиданных событиях. «Снова и снова, – писал в 2009 году немецкий журнал Spiegel в статье о безопасности на воздушном транспорте, – пилоты автоматически управляемых самолетов сталкиваются с жуткими сюрпризами, предусмотреть которые не могли никакие инженеры» [5].

То же самое можно сказать и о положении в других отраслях. В прессе широко освещалось происшествие с Google-мобилем, за рулем которого сидел человек; но мы практически ничего не слышали о тех случаях, когда водители, сидевшие в автоматических машинах Google, брали на себя управление, если компьютер с ним не справлялся. Правила Google требуют ручного управления на улицах жилых кварталов, а каждый, кто хочет покататься на компьютерном автомобиле, должен пройти курсы экстремального вождения [6]. Автоматические автомобили не такие уж и самостоятельные, как кажутся.