Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф

В программу, конечно, можно заложить принцип выбора меньшего из зол, но постановка вопроса представляется неправильной на других уровнях. Поскольку 90 % ДТП случаются из-за ошибок водителей, переход к использованию беспилотных автомобилей должен привести к резкому снижению травматизма и гибели людей на дорогах. Это явно будет значительным благом, несмотря на небольшое количество ДТП в результате чисто технологических сбоев. В определенной мере автомобильная промышленность уже согласилась с этой логикой. Подушки безопасности, например, спасают больше жизней, чем уносят из-за ошибочного срабатывания.

Потом, такая узконаправленная постановка вопроса не учитывает будущих возможностей беспилотников, когда, скорее всего, дорожные рабочие, полицейские, спецмашины, автомобили, пешеходы и велосипедисты будут электронным образом оповещать друг друга о своем присутствии. Это даже в отсутствие полной автоматизации должно значительно повысить безопасность. В настоящее время проходит испытания технология глобальной связи, известная как V2X, которая обеспечивает непрерывный обмен информацией о месте нахождения между соседними автомобилями. В будущем даже школьники будут носить сигнализаторы, предупреждающие автомобили об их присутствии и уменьшающие вероятность ДТП.

На фоне этого кажется странным, что философы рассматривают проблему вагонетки не с точки зрения большего блага, а как объект индивидуального выбора. Конечно, если техника подведет, это обернется чьей-то трагедией, а она несомненно будет давать сбои. Системы, повышающие общий уровень безопасности транспорта жизненно необходимы, даже если они несовершенны. Еще более интересная философская загадка касается экономических, социальных и даже культурных последствий исключения людей из цепочки управления автомобилем. В 2013 г. в США в результате ДТП погибло более 34 000 человек и 2,36 млн получило травмы. Сравните это с 3,8 млн человек, которые зарабатывали на жизнь коммерческими перевозками в 2012 г. в США{19}. В течение двух последующих десятилетий беспилотные автомобили и грузовики приведут к исчезновению значительной, если не подавляющей, части этих рабочих мест.

У этой проблемы гораздо больше нюансов, чем узко поставленный вопрос о сохранении жизней и рабочих мест. Когда Дуг Энгельбарт в 1968 г. проводил то, что позже назвали «матерью всех демонстраций», – демонстрацию технологии, которая привела к появлению персональных компьютеров и интернета, – он неявно использовал аналогию управления автомобилем. Он сидел за клавиатурой и дисплеем и показывал, как работа через графический интерфейс в интерактивном режиме может использоваться для управления компьютером и «движения» через киберпространство, как его назвали потом. В этой модели усиления интеллекта человек в значительной степени сохраняет контроль. Если первоначально аналогией интерактивной работы на компьютере было управление автомобилем, то сегодняшние взгляды Google изменили картину. Новая аналогия ближе к поездке на лифте или поезде без вмешательства человека. В мире Google вы нажимаете кнопку, и вас доставляют к месту назначения. Такая концепция транспортировки подрывает некоторые представления, глубоко укоренившиеся в американской культуре. В прошлом веке автомобиль стал синонимом американского идеала свободы и независимости. Сейчас эта эпоха заканчивается. Что придет ей на смену?

Символично, что именно Google изменила аналогию. В некотором смысле она начиналась как компания по разработке методов усиления интеллекта. Разработанный Ларри Пейджем алгоритм PageRank для улучшения результатов поиска в интернете был ориентирован на извлечение конкретных знаний путем накопления большого числа принятых людьми решений о ценных источниках информации. Google начала со сбора и организации знаний и предоставления доступа к ним в качестве части известной Memex, первой глобальной системы поиска информации, предложенной Ванниваром Бушем в 1945 г. в журнале Atlantic Monthly{20}.

Так или иначе по мере развития компания начала все больше ориентироваться на системы, которые заменяют человека, а не расширяют его возможности. Руководство Google все же задумывалось о социальных последствиях создаваемых ими систем. Девиз у компании прежний – «Не навреди». Конечно, это довольно туманно и может означать что угодно, однако предполагает, что компания Google стремится не просто к максимизации акционерной стоимости. Например, Питер Норвиг, ветеран исследований в области искусственного интеллекта, директор по исследованиям в Google с 2001 г., видит в партнерстве человека и компьютера выход из сложной ситуации, возникающей в результате появления все более интеллектуальных машин. По его словам, партнерское взаимодействие шахматистов и шахматной программы позволяет обыграть в шахматы даже лучший искусственный интеллект. «Как сообщество, мы пойдем именно в этом направлении. Компьютеры станут более гибкими и производительными, а процветать, скорее всего, будут те, кто работает в партнерстве с машинами», – сказал он в 2014 г. на конференции NASA{21}.

Как будет выглядеть партнерство людей и интеллектуальных автомобилей? То, что началось с желания военных автоматизировать ведение боевых действий, снизить затраты и обеспечить безопасность солдат, вот-вот приведет к перевороту в сфере транспорта. Мир стремительно идет вперед и автоматизирует транспортные системы, однако последствия этого пока что туманны. Ожидается колоссальный положительный эффект в плане безопасности, эффективности и влияния на окружающую среду. Но что станет с миллионами людей, работающими сейчас в транспортной сфере по всему миру? Что будут делать они, когда окажутся на месте кузнецов или изготовителей кнутов в XXI в.?

«С помощью этих машин мы можем делать любую бытовую технику», – с энтузиазмом говорил Бинне Виссер, инженер завода Philips, участвовавший в создании роботизированной линии для сборки электробритв. Он подчеркивал, что в принципе на ней можно производить что угодно вплоть до смартфонов и компьютеров{22}.

Выпускающий электробритвы завод компании Philips в Драхтене, в трех часах езды на поезде на север от Амстердама по совершенно плоской сельской местности, дает ясное представление о том, какими будут роботизированные производства: полностью автоматизированные, не нуждающиеся в искусственном освещении заводы уже реальность, правда пока в ограниченных масштабах. Завод в Драхтене внешне выглядит как реликт тех времен, когда Philips, начинавшая с выпуска электрических лампочек и электронных ламп, превратилась в один из крупнейших в мере брендов бытовой электроники. Проиграв новым азиатским компаниям в таких областях, как производство телевизоров, Philips осталась одним из ведущих мировых производителей электробритв и ряда других потребительских товаров. Подобно многим европейским и американским компаниям она переместила значительную часть производства в Азию, где трудовые ресурсы менее дорогие. Поворотный момент наступил в 2012 г., когда Philips отказалась от переноса сборки высококачественных бритв в Китай. В условиях падения цен на датчики, роботы и камеры и роста стоимости транспортировки готовых товаров на рынки за пределами Азии Philips построила почти полностью автоматизированную сборочную линию на заводе в Драхтене. Потерпев поражение во многих категориях бытовой электроники, Philips для сохранения места на рынке решила инвестировать в производство докомпьютерных бытовых электроприборов.