ИИ-2041. Десять образов нашего будущего - Кай-фу Ли

способствует снижению затрат, увеличение свободного времени людей — повышению продуктивности их жизни. Одним словом, возникнет что-то вроде взаимоусиливающего добродетельного круга, благодаря которому люди станут все охотнее и быстрее переходить на автономные транспортные средства.

По мере усиления автоматизации беспилотные автомобили смогут играючи связываться друг с другом — мгновенно и безошибочно. Например, пробив колесо, автомобиль тут же сообщит всем вокруг: держитесь от меня подальше. Если машина в плотном потоке покажет окружающим свою точную траекторию, то соседние авто смогут сократить боковую дистанцию до считаных сантиметров, и это не создаст риск столкновения.

Когда пассажир очень спешит, его машина может «замотивировать» другие авто (скажем, предложить немного денег из кармана пассажира) — и они пропустят ее вперед.

Все названное приведет к формированию инфраструктуры, в основном состоящей из ИИ-водителей, и поездки водителей-людей станут считаться небезопасными, а то и вовсе незаконными. Человек способен сесть за руль в нетрезвом виде — а ИИ нет. По всей вероятности, со временем появление водителей-людей запретят на дорогах общего пользования; возможно, сначала на автомагистралях и в центре больших городов. И тогда люди, которые обожают ездить за рулем, станут предаваться любимому увлечению примерно так же, как сегодня это делают любители верховой езды — в специальных местах и зонах.

По мере того как автономные транспортные средства, электромобили, карпулинг (совместные поездки) будут совершенствоваться и распространяться, все меньше людей станут покупать машины в личное пользование (а это эффективно сократит ежемесячные семейные расходы); многоэтажные паркинги можно будет перепрофилировать (тем самым высвободить огромные пространства, ведь, как известно, автомобили 95 процентов времени стоят на приколе), а общее количество машин на дорогах сильно сократится.

Эти изменения в совокупности уменьшат пробки, снизят потребление природного топлива разных видов, уменьшат загрязненность воздуха.

Однако помимо явных благ вроде сохраненных человеческих жизней нас подстерегают и серьезные потрясения. В новом мире беспилотных автомобилей не повезет водителям такси, грузовиков, автобусов, курьерам-доставщикам. Сегодня более 3,8 миллиона американцев зарабатывают на жизнь вождением грузовиков или такси, а множество других подрабатывают в Uber/Lyft, в почтовой и прочих службах доставки, на складах и так далее.

Все эти рабочие места будут исчезать — с такой работой успешно справится ИИ. Существенных встрясок следует ждать и в других традиционных профессиях. Техническое обслуживание автомобилей потребует все меньше механического ремонта и все больше — обслуживания электроники и программного обеспечения. Число автозаправок, автосалонов и гаражей резко сократится — уволят и их сотрудников. Жизнь множества людей изменится навсегда — нечто подобное уже случалось при переходе человечества от конных повозок к автомобилям.

НЕТЕХНОЛОГИЧЕСКИЕ ПРОБЛЕМЫ, СПОСОБНЫЕ ПОМЕШАТЬ ПЕРЕХОДУ НА УРОВЕНЬ 5

Автономные транспортные средства распространятся повсеместно только в том случае, если мы решим ряд проблем, в первую очередь этического характера — ответственности и сенсационализма[80]. Подобных сложностей следует ожидать — речь о миллионах жизней, не говоря уже о множестве отраслей экономики и сотнях миллионов рабочих мест.

Беспилотному транспорту неизбежно придется принимать решения этического характера, как бы странно это ни звучало. В человеческом обществе такие решения крайне мучительны. Возможно, самая известная этическая дилемма, связанная с транспортной сферой, — так называемая «проблема вагонетки»[81]. Нужно принять решение и выбрать между действием и убийством человека А или бездействием и убийством людей Б и В.

Некоторым кажется, что ответ очевиден — жертв должно быть как можно меньше. Но следующий вопрос: а если человек А — маленький ребенок? А если это ваш ребенок? А если транспортное средство принадлежит вам, а человек А — ваш ребенок?

Сегодня, если водитель-человек становится виновником гибели других людей, он предстает перед судом. В ходе заседания определяется, верно ли действовал водитель, мог ли предотвратить трагедию. Если нет — судьи оценивают тяжесть последствий и назначают наказание.

Но кто ответит, если люди погибнут из-за ИИ? Сможет ли он объяснить свое решение так, чтобы его поняли люди? Будет ли это объяснение приемлемым с юридической и моральной точек зрения? Создать объяснимый ИИ[82] чрезвычайно трудно — ведь он обучается на основе данных. Его реакция — сложное математическое уравнение, которое люди поймут, если только его очень сильно упростить.

Некоторые решения ИИ кажутся нам совершенно бессмысленными (ведь он не знает, что такое здравый смысл), а некоторые человеческие решения кажутся глупыми ИИ (потому что человек принял их, скажем, нетрезвым или сильно уставшим).

Не следует забывать и о других серьезных вопросах и проблемах: как компенсировать лишение средств к существованию миллионам водителей грузовиков? Чем занять миллионы часов, которые высвободятся из-за массового перехода на автономный транспорт?

Допустимо ли использовать сейчас временный, промежуточный ИИ, совершающий ошибки, которых не совершил бы водитель-человек? А если лет через пять, когда ИИ «намотает» миллиарды километров и многократно умножит свой опыт, обучится и сильно улучшится, это позволит вдвое сократить количество смертей на дороге?

И наконец, фундаментальный, принципиальный вопрос — сможем ли мы хоть когда-нибудь позволить машине принимать решения, способные причинить ущерб человеку? Если ответ отрицательный — то идею беспилотных транспортных средств нужно похоронить на корню.

На карте — жизни людей, и все компании, работающие над развитием ИИ, должны действовать максимально осторожно. Тут возможны два подхода, у каждого свои достоинства и недостатки.

Первый — осторожничать, медленно накапливать данные в безопасной среде, избегать смертельных случаев и лишь потом запускать автономный продукт (подход Waymo[83]).

Второй — вывести продукт на рынок, как только ИИ станет относительно безопасным, собрать как можно больше данных, поскольку со временем это сбережет много жизней, даже если вначале будут жертвы (подход компании Tesla).

И что лучше? Самые светлые умы современности пока не пришли к согласию.

А вот еще вопрос на засыпку: кто должен нести ответственность за смертельное ДТП, устроенное автономным транспортным средством? Производитель автомобиля? Провайдер ИИ-алгоритма? Программист, который этот алгоритм написал? Водитель-человек, обеспечивавший поддержку? Очевидного ответа нет, но политикам уже в ближайшее время придется его найти, потому что из истории известно: экосистему вокруг подотчетности и ответственности можно построить только тогда, когда они предельно четкие и ясные.

(Например, ответственность за убытки в результате мошенничеств с пластиковыми картами несет компания, их выпускающая, — не банк, не магазин и не пользователь карты. Именно это решение дало компаниям-эмитентам право взимать плату с других сторон процесса и использовать эти средства для предотвращения мошенничеств, что и привело к созданию соответствующей экосистемы.)

Предположим для примера, что за все ответствен автор софта и что программу, которая привела к смертельному исходу, выпустила Waymo. На какую сумму может подать иск семья погибшего, если у Alphabet, материнской компании Waymo, в наличии более 100 миллиардов долларов?