Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф

Это назвали проблемой «передачи управления». Надо было решить, как быстро возвращать «к реальности» человека, который может читать электронную почту, смотреть фильм или даже спать. Понятное дело, люди в беспилотниках клюют носом гораздо чаще, чем думают. Именно с этим столкнулась автоиндустрия в 2014 г., когда появились системы помощи в пробках. Водитель должен держать руль хотя бы одной рукой с перерывами не более 10 секунд. Если он не демонстрирует «присутствие», система подает звуковой сигнал и выходит из режима автопилота. Но ДТП происходят за доли секунды. По мнению Google, выходило, что в будущем эту проблему, возможно, удастся решить, но с существующими технологиями она неразрешима.

Ряд автопроизводителей уже делают попытки решить проблему отвлечения водителей. Lexus и Mercedes выпустили на рынок систему, определяющую по положению глаз и головы водителя, что он отвлекся или задремал. Audi начала разрабатывать в 2014 г. систему с двумя камерами, следящую за вниманием водителя и при необходимости останавливающую автомобиль.

Так или иначе в настоящее время Google сменила стратегию и пытается решить другую, более простую задачу. В мае 2014 г., всего через несколько недель после оптимистичного брифинга для прессы относительно прогресса в разработке беспилотного автомобиля, она нацелилась на новое, более узкое, но радикальное решение для городских условий. Споткнувшись на проблеме отвлечения человека, инженеры Google решили полностью исключить людей из цепочки управления. Компания перенесла акцент со своего парка автомобилей Prius и Lexus с автопилотом на новый парк из сотни экспериментальных электромобилей без привычных органов управления. Хотя Google по обыкновению об этом не распространялась, фактически она занималась созданием автомобиля без водителя с самого начала своей программы, экспериментируя с автономными гольф-мобилями у себя в кампусе. Теперь она намеревалась вернуться к истокам и снова автономно возить людей по кампусу, на этот раз на новых, специально сконструированных автомобилях. Поездка на таком автомобиле будущего сродни поездке в лифте. Двухместный автомобиль напоминает сверхкомпактный Fiat 500 или Smart компании Mercedes-Benz, но у него нет ни руля, ни педали газа, ни тормоза, ни рычага переключения передач. Идея в том, чтобы в переполненных центрах городов или в кампусах пассажиры могли ввести место назначения на смартфоне и вызвать автомобиль. В его салоне есть только кнопка «Начать движение» и красная кнопка аварийной остановки. Инженеры установили предел скорости движения на уровне 40 км/ч, чтобы классифицировать транспортное средство как гольф-мобиль, а не как обычный автомобиль. Это позволяет обойтись без подушек безопасности и других обязательных атрибутов современного средства передвижения, увеличивающих стоимость, вес и сложность. Вместе с тем такие автомобили годятся только для поездок по городу с малой скоростью.

Хотя 40 км/ч ниже минимальной скорости для шоссе, средняя скорость движения в Сан-Франциско и Нью-Йорке составляет, соответственно, 29 и 27 км/ч, поэтому не исключено, что медленные, но эффективные автоматизированные автомобили однажды заменят сегодняшнее такси. По данным Института Земли, 13 000 такси Манхэттена выполняют 470 000 рейсов в день. Их средняя скорость 16–18 км/ч, и они везут в среднем 1,4 пассажира при средней дальности поездки 3 км и среднем времени ожидания такси 5 минут. По сравнению с этим, говорится в отчете института, футуристический парк из 9000 роботов, вызываемых через смартфон, может обеспечить такие же показатели при времени ожидания менее 1 минуты. Если принять маржу прибыли, равной 15 %, то сегодняшнее такси обойдется вам в $2,5 на 1 км, а будущее беспилотное такси – в 30 центов на 1 км. Отчет показывает аналогичную экономию и для двух других городов – Анн-Арбор, штат Мичиган, и строящийся населенный пункт Бабкок-Ранч, штат Флорида{17}.

Руководство и инженеры Google приводят аргумент, которым уже давно оперируют градостроители: парк редко используемых автомобилей поглощает огромное пространство. Например, автомобили для поездок на работу и обратно стоят без движения большую часть дня, занимая городское пространство, которое может быть использовано для домов, офисов или парков. В городах автоматизированные такси будут работать непрерывно, возвращаясь только к станциям быстрой зарядки роботов для замены аккумуляторов. В этом свете легко представить города, не ориентированные на частные автомобили, с большими зелеными пространствами и широкими проспектами для пешеходов и велосипедистов.

Говоря об опасности и иррациональности современной транспортной системы, Трун затрагивал и вопросы повышения безопасности, и вопросы переустройства городов. Помимо расточительного использования значительных ресурсов транспортная инфраструктура уносит более 30 000 жизней в год в результате ДТП в США, а в Индии и Китае в 10 раз больше. В целом в мире жертвами ДТП становятся более миллиона человек в год. Это убедительный аргумент, но он наталкивается на стену проблем юридической и финансовой ответственности и еще более сложных этических вопросов. В качестве довода против беспилотных автомобилей указывают на неготовность законодательства к определению виновных в случае происшествий, связанных с дефектами конструкции или изготовления. Это сфера невероятно сложных взаимосвязей между недостатками конструкции автомобилей и юридическими последствиями. Претензии по внезапному разгону автомобилей Toyota, например, стоили компании более $1,2 млрд. General Motors столкнулась с конструкционным недостатком замка зажигания, из-за которого внезапно глох двигатель, и ей пришлось отозвать больше автомобилей, чем было выпущено в 2014 г. В конечном итоге эта акция может обойтись компании в несколько миллиардов долларов. В принципе такая проблема решается довольно просто. Конгресс может принять закон об освобождении от ответственности для беспилотных автомобилей, как в случае вакцин для детей. Страховые компании могут ввести режим «отсутствия виновных», если в ДТП участвуют только беспилотники.

У проблемы ответственности есть и морально-этический аспект, известный как «проблема вагонетки» – неуправляемая вагонетка мчится по рельсам в направлении пяти человек, вы можете спасти их, переведя стрелку на другой путь, где находится только один человек, и таким образом пожертвовать им. Допустимо ли с точки зрения морали изменить направление движения вагонетки и предотвратить пять смертей ценой одной? Впервые сформулированная в статье об этике абортов британского философа Филиппы Фут в 1967 г., эта проблема вызвала бесконечные дискуссии о последствиях выбора меньшего из зол{18}. Позднее аналогичную задачу поставили перед роботами-автомобилями. Им надо было решить, что делать: наехать на пятерых выбежавших на дорогу школьников или свернуть на тротуар и сбить взрослого прохожего.