Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

Политическая экономия роботизированного ухода

Более значительные тенденции в занятости рабочей силы и спросе на нее также играют свою роль. Роботизированный уход имеет намного больше смысла в обществе, где взрослые дети постоянно вынуждены все больше работать; перегруженное «сэндвичное поколение» вынуждено чем-то жертвовать. Если бы, наоборот, прибыли от производительности распределялись лучше, спрос на роботов в области ухода за пожилыми, скорее всего, упал бы. Распространение инноваций обусловлено не столько существованием самого устройства как такового, сколько потребностью, которой оно служит в определенной социально-технической системе. Как утверждала Марта Файнман, мы можем перестроить социальные системы так, чтобы реорганизовать мотивы и стимулы, вместо того чтобы пытаться подгонять людей под все более дисфункциональные системы[172].

Наконец, и это наиболее важная часть моего аргумента в этой главе, выбор между социальными роботами и медицинским персоналом представляет собой ложную дихотомию. Даже ярые сторонники социальных роботов обычно описывают их как помощников, а не заменителей сиделок и медсестер. Научные данные говорят в их пользу. Например, применение робота Раго вместе с интенсивной работой сиделок и других лиц, ухаживающих за больными, дает лучшие результаты, чем исключительно дистанционные методы. За последнее десятилетие ученые провели ряд исследований подобных применений роботов и пришли к некоторым положительным результатам. Исследователи-психиатры на Тайване выяснили, что «терапия с применением роботов может использоваться в стандартных программах, поскольку она обладает способностью повышать социальное благополучие престарелых в учреждениях интернатного типа»[173]. Норвежские планирующие инстанции выяснили, что «Раго, видимо, выступает медиатором усиливающихся социальных взаимодействий, привлекая к ним» престарелых пациентов с деменцией, которым его предоставляли[174]. Люди, осуществляющие уход, могут структурировать взаимодействие с социальными роботами, поощряя самовыражение, заботу о близких и беседы. Эта дополнительность помогает и пациенту, и человеку, заботящемуся о нем.

Профессиональные учебные заведения и медицинские системы должны развивать навыки профессиональных медиаторов между уязвимыми людьми и техническими системами. Специалист по этике Эйми ван Винсберге утверждала, что в применении робота отражается определенное представление о той или иной практике – в данном случае практике ухода. Во многих ситуациях «человеческое прикосновение, зрительный контакт, присутствие человека» – вот что играет ключевую роль в уходе. Если робот способен поддерживать подобные контакты, он может стать положительной частью проекта, ориентированного на ценности[175].

В развитых системах медицинского ухода это уже в полной мере учитывается. В Нидерландах был снят документальный фильм «Алиса заботится» об эксперименте с применением робота-компаньона, который дополняет посещения домашней сиделки. Контакты в итоге были достаточно позитивными. Одна старая женщина показывала роботу фотоальбомы, другая смотрела с ним футбол. Робот может подбадривать, кивать и иногда выражать одобрение или беспокойство. Сиделки дали пожилым людям понять, что робот не будет заменять человеческое общение, что он только подбадривает его. Это и стало условием доверия[176].

Создание доверия является ключевым фактором, учитывая широко распространенные опасения, связанные с применением автономных машин. Согласно опросу «Евробарометра», бо% стран в ЕС запретят роботизированный «уход за детьми, пожилыми людьми и людьми с инвалидностями»[177]. И руководствуются они не просто луддизмом. Развитие автономных роботизированных систем, осуществляющих «уход», может усугубить глубокий социальный разрыв между теми, кому доступен человеческий контакт, и теми, кого отправляют к программам и машинам. Сомнения вызывает то, получают ли они, собственно, в таком случае какой-либо уход. Уход, если противопоставлять его системе внешних форм поведения, которыми он просто изображается, может возникать лишь в контексте взаимоотношений, когда лицо, этот уход осуществляющее, может, по крайней мере теоретически, его прекратить. Именно постоянное подтверждение готовности тратить время и силы на другого человека – вот что делает уход настолько ценным и ограниченным лишь сферой людей как существ, обладающих свободой воли. ИИ и роботы могут помочь с улучшением условий ухода, но саму эту работу они выполнить не в состоянии.

Сохранение человеческого контакта в медицине

О будущем роботов и ИИ в медицине мы можем очень многое узнать благодаря удачам и неудачам другой критически важной технологии, а именно фармацевтики. Ни один разумный доктор не захотел бы вернуться к медицине до появления современных лекарств. Антибиотиками сегодня можно вылечить пневмонию, от которой еще сто лет назад умирали. Однако в случае многих заболеваний спорным остается вопрос о том, какие именно лекарства выписывать, в какой дозировке и на какой срок. С роботами и ИИ похожая ситуация. Некоторые врачи готовы рекомендовать их направо и налево; другие проявляют больше осторожности; и все мы надеемся на то, что более качественный сбор данных позволит объективным наблюдателям отделить надежды от простой шумихи.

Как только мы выходим за пределы простых вопросов безопасности и эффективности автоматики, намечаются более сложные проблемы. Если бы решения о скорости и природе применения ИИ сводились к рыночной логике, дешевые роботы и приложения могли бы быстро стать новыми регуляторами доступа к специальной медицинской помощи или попросту узурпировать роль врачей-людей в работе со многими пациентами. От личного доктора можно было бы отказаться как от роскоши, так же как и от личного портного. С другой стороны, если бы государственные агенты взяли на себя слишком большую роль в управлении автоматизацией, политические соображения могли бы закрепить уже сложившиеся формы неэффективности. Рынок и государство лучше всего уравновешивать тем, что социолог Элиот Фрейдсон назвал «третьей логикой», а именно логикой профессионализма. В профессиях работники со специальными знаниями, предоставляющие наиболее значимые услуги, «имеют возможности организовывать и контролировать свою собственную работу»[178].

Медицина – одна из самых старых профессий, и обоснование ее автономности со временем менялось. Когда медицинское лечение было делом случая, врач считался похожим на прорицателя, которого уважали за некоторое знакомство с неизвестными силами. Благодаря науке медицина стала надежней, тогда как медицинскими комиссиями были разработаны стандарты защиты пациентов от знахарей и шарлатанов. Также были рассмотрены критические вопросы управления рисками медицинских исследований, которые имели гораздо меньшее значение, к примеру, в маркетологических исследованиях. Чтобы решить все эти вопросы, медицине как отдельной профессии приходится использовать свою привилегию (то есть лицензировать или запрещать предоставление ухода и медицинской помощи) ради защиты общества и особенно его наиболее уязвимых слоев.

К несчастью, хитрый маркетинг некоторых приложений психического здоровья способен увести индустрию на совсем другую, не слишком устойчивую траекторию. Потенциальные клиенты могут пользоваться такими приложениями как дешевой и удобной альтернативой посещения терапевта. Это расходится с установкой многих регулирующих ведомств (начиная с бюро лицензирования и заканчивая агентствами по защите прав потребителей), с точки зрения которых приложения – это просто игры, развлечения, информационные сервисы, помощники в здоровом образе жизни, то есть