Восстание машин отменяется! Мифы о роботизации - Дэвид Минделл

На карту поставлены основополагающие идеи о человеческом факторе, контроле за чьей-то работой, существовании и работе внутри системы. Кризис самоопределения пилотов авиалиний схож с состоянием ученых, изучающих глубины, пилотов дронов, исследователей космоса и представителей многих других профессий, чьи познавательные способности под давлением компьютеров и автоматизации перенесены в цифровой виртуальный мир, но при этом они по-прежнему ощущают последствия и тяготы мира физического. В автоматических автомобилях будущего вождение может стать скорее чем-то похожим на внимательное отслеживание процесса пилотами самолетов, а не на спокойную расслабленность пассажиров во время поездки.

В конце 2013 года индустриальная отраслевая рабочая группа Федерального управления гражданской авиации США по автоматизации кабины экипажа оценила текущее состояние техники и навыков пилотов. Они рассмотрели 26 аварий и несчастных случаев и обнаружили, что пилоты могут слишком полагаться на автоматизированные системы, не понимать их в достаточной степени и делать ошибки при их использовании. Более того, требования к объему знаний и умений, необходимых для пилота, были расширены. Хотя некоторые традиционные навыки сейчас становятся «атавистическими» и могут понадобиться только в критическом положении или при аварии, пилоты должны по-прежнему хорошо владеть ими. Определение «стандартных» летных навыков изменилось, и от современного пилота ждут большего, чем от пилота даже в недавнем прошлом.

Кэти Эббот – доктор философии в области вычислительных систем, главный научный консультант и технический эксперт Федерального управления гражданской авиации США по человеческим факторам в автоматизации кабины экипажа и сопредседатель рабочей группы. Она подчеркивает, что автоматизация не исключает человеческого вовлечения в управление самолетом, но, скорее, переносит его. Автоматизируя задачи, «мы не исключаем возможность человеческой ошибки, – объясняет Эббот, – мы просто меняем место, где ошибка происходит». Более того, она указывает на то, что опытные пилоты совершают такое же количество ошибок, как и менее опытные, но это ошибки другого плана. С точки зрения познавательного процесса ошибка – это «побочный эффект наличия мозгов» и необходимая для обучения вещь.

Данные показывают, что только 10 % всех коммерческих рейсов проходят точно в соответствии с планом полета. Еще во время 20 % полетов происходят сбои в системах, которые требуют реакции экипажа. Поскольку бо́льшая часть этих данных была получена из докладов об авариях и несчастных случаях, Эббот и рабочая группа определили, что «существует крайне ограниченное количество источников информации о положительных моментах авиационных систем»: например, о многократных ежедневных взаимодействиях, в которых пилоты заставляют системы работать путем преодоления, часто незаметного, ошибок и человека, и машины.

На самом деле в соответствии с данными пилоты действительно выполняют большое количество незаметной работы, которая уменьшает риски, и вся система разработана, исходя из факта выполнения ими этой критически важной функции. К примеру, пилоты не всегда следуют стандартным методикам работы, потому что эти методики могут не соответствовать ситуации или не укладываться в отведенное время. Не многие изучали эти трудно уловимые аспекты поведения пилота, хотя их понимание является главной предпосылкой для разговора о беспилотных воздушных судах.

Процедуры, которые выполняет пилот, – это не набор «железных» правил, а, скорее, компромисс между исполнением, простотой, необходимостью и рядом других факторов. Это нечто вроде компьютерных программ для людей – инструкции, написанные другими людьми. Критические ситуации зачастую не вполне соответствуют тому, что инженеры предвидели и внесли в перечень проверочных операций. Как в случае рейса QF32, в такие моменты пилотам приходится импровизировать и иногда идти против того, что говорят их компьютеры. Пилоты – это клей, который удерживает всю систему вместе и используется для устранения несовершенства в протоколах, коммуникациях, интерфейсах и процедурах.

Эти открытия показывают, что новые технологии должны повышать возможности решения проблем человеком, а не отбирать у человека шанс их решить. Автоматизация должна помогать людям в их задачах, не отстраняя их от машины и не отчуждая их от профессии.

Авиация всегда являлась областью, где профессиональное самоопределение было связано с изменением технологий. Чтобы ответить на сегодняшние и будущие вопросы, нам нужно начать с краткого экскурса в историю профессии летчика, одного из главных героев в развитии современного человечества, чей опыт постоянно менялся вместе с изменением летной техники.

Из всех достижений братьев Райт главным стала сама идея о том, что самолет должен быть машиной, находящейся под активным управлением человека. Именно эта идея сделала самолет практически применимым и породила одно из величайших социальных явлений двадцатого столетия – пилота самолета, повелителя машин, путешествующего сквозь нестабильную среду и наблюдающего за жизнью людей внизу.

«Двадцатый век родился, тоскуя по герою нового типа, – писал историк авиации Роберт Вохль, – кого-то, кто был бы повелителем холодных, нечеловеческих машин, оставленных в наследство веком девятнадцатым, и в то же время превращал бы эти машины в ослепительное искусство и легенду». Пилоты от Чарльза Линдберга и Нейла Армстронга до «Салли» Салленбергера воплощали собой культурный образ человека, который находится на передовом крае технологий и социальных изменений. Сравнения подбирались легко: искатель приключений в небе, воздушный художник, атлет третьего измерения. Первая мировая война принесла новые особенности, а именно – «рыцарей неба», асов-истребителей, возрождающих древние мифы о героях посреди обезличенной войны окопов и случайной, слепой смерти.

По иронии судьбы большинство пилотов, в том числе Уилбур Райт, Чарльз Линдберг и Нейл Армстронг, не принадлежали ни к одному из этих архетипов, а, скорее, напоминали инженеров или механиков, обладавших такими ценными качествами представителей среднего класса, как сдержанность, осмотрительность и сосредоточенность. История пилота в XX веке – это в какой-то мере история несоответствия между представлениями людей о том, каким он должен быть, общественной мифологией и реальными чертами характера, которые необходимы для того, чтобы успешно летать и оставаться в живых. Это также история о человеческом самоопределении, рука об руку идущем с новыми технологиями.

Хотя в небесах летчики наслаждались свободой и независимостью, их радость с давних пор перемежалась жалобами на кажущуюся потерю контроля, интуиции и ярких ощущений во имя большей стабильности, безопасности и функциональных возможностей. Летчица Берил Маркам, описывая свои полеты над африканским бушем, видела, что «этой эпохе великих пилотов» приходит конец так же, как закончилась эпоха великих морских капитанов: «И тех и других сдвинуло в сторону наступление изобретательного ума, стальных шестеренок, медных гаек и тонких стрелок на белых циферблатах, которые немы, но говорят».

Сегодня жалобы Маркам звучат очень знакомо, но эти слова она писала в 1930-е годы. Ее «тонкими стрелками», пурпурными линиями тех времен были приборы, установленные в кабине пилота, которые помогали ему лететь прямо, даже погрузившись в облака. Также Маркам беспокоилась о том, что пилоты утратят свои навыки: «Если ты не можешь лететь, не глядя на прибор, определяющий скорость воздушного потока, альтиметр и указатель крена и поворота, то ты не можешь летать вообще».