Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

детей, которые обнимают своих «приятелей»-роботов или вопросительно смотрят на них, стали привычными, но в то же время они вызывают недоумение. Извлеките смартфон из Dragonbot’a, и останется просто мягкая игрушка, к которой привязался ребенок. Но раньше игрушки не могли ежесекундно распознавать выражение лица ребенка или подстраивать свои сигналы под показания своих сенсоров. Обучающие роботы-игрушки занимают пограничное пространство между субъектом и объектом, и нам, родителям, учителям и политикам, надо решить, как их определить и как к ним относиться.

Предложить хорошее определение в этом случае нелегко; и это одна из причин, по которым такие вымышленные создания, как драконы (или покемоны), больше подходят на роль «векторов» роботизированных уроков, чем гуманоидные роботы. Весьма практичный и простой урок, который можно преподать детям, – это урок ненасилия. Корейские исследователи спроектировали Шелли, робота-черепаху, которая может моргать и шевелить лапками, когда дети ее гладят. Но если ребенок бьет ее, Шелли тут же скрывается под своим панцирем и умолкает. Шелли – это пример развивающейся области биомиметических роботов, которые ведут себя как природные существа; она указывает на готовую модель контакта ребенка и робота, а именно на домашнее животное. Механические черепахи, кошки, собаки (вспомним, например, собаку-робота Aibo) могут послужить детям заменой животного-компаньона, так же как робот-тюлененок Паро может играть ту же роль для престарелых. Специалист по этике из MIT Кейт Дарлинг предложила «относиться к роботам скорее как к животным, способным отвращать человека от поведения, которое в других контекстах было бы вредным»[244]. Например, с основами этики заботы ученик может познакомиться, общаясь с роботом, которому для работы требуется определенное взаимодействие (или даже зарядное устройство). Японское игровое устройство Tamagotchi сыграло на этой чувствительности в 1990-х гг., заставляя пользователей нажимать кнопки, чтобы «покормить» цифрового питомца или как-то еще о нем позаботиться. Начав с такой низкой отметки, роботы постепенно научились лучше имитировать животных.

Осторожные родители могут также научить своих детей относиться к незнакомым роботам как 64 к диким животным, то есть не приставать к ним[245]. При этом следует объяснить различие между живым и механическим. Даже черепаха Шелли может внушить детям неправильные представления о том, как вести себя с настоящей рептилией, создав у них нереалистические ожидания относительно податливости среды, которая должна отвечать человеческим желаниям[246]. В своей книге «Одни вместе» Шерри Теркл рассказывает, что ее поразило то, с каким пресыщенным безразличием дети отзывались о группе черепах, сидевших в музее практически неподвижно. «Если они так мало делают, не было смысла заводить живых черепах», – сказала одна девочка. Некоторые заметили, что предпочли бы активную роботизированную версию животного. «Если поставить вместо живой черепахи робота, – спросила тогда Теркл, – надо ли сообщить людям, что черепаха не живая?» Дети задумались. Теркл была обеспокоена тем, что непритязательной реальности они предпочли увлекательную иллюзию[247].

Аналогия с животным не работает и тогда, когда роботы, оформленные в виде животных, изображают какие-то человеческие качества. Специалист по праву Марго Камински обеспокоена тем, что роботы могут участвовать во «вводящем в заблуждение антропоморфизме», чтобы обманом заставлять своих собеседников думать, будто у машин есть чувства[248]. Хитрые маркетологи способны облечь рыночное предложение в обманчивые одежды искреннего обращения искусственного «человека». Роботы, которых мы, вероятно, увидим в массовом применении через несколько десятилетий, не будут продуктами миллионов лет эволюции. В целом они будут разрабатываться корпорациями, у которых свои собственные бизнес-модели. Иногда такая бизнес-модель будет соответствовать модели ведущих интернет-фирм, когда мы платим за многие формы контента тем, что порождаем след данных, важный маркетологам, будущим работодателям, страховщикам и т. д. Собака ребенка не будет сообщать о его поведении при подаче заявления в колледж, но робот может.

Маленьким детям будет сложно, а может, и просто невозможно помнить о подобных опасностях при общении с роботом. И если компании в области технообразования настаивают, несмотря на все упомянутые опасения, на инвестировании в гуманоидных роботов, они должны всесторонне рассмотреть свою «скрытую программу», то есть все те малозаметные поучения и предубеждения, которые ими на самом деле транслируются. Например, у ассистентов Сири и Алексы женские голоса, но не ведет ли это к закреплению отжившей модели гендерных ролей, определявшейся дискриминацией? С какой стати предполагать, что роботы-помощники – это женщины? На то, как раса представляется в технологии, также должны влиять сами представляемые сообщества, а в идеале они и должны руководить этим процессом. «Ничего о нас без нас» – подходящий лозунг как для медиа, так и для роботов, поскольку он поднимает вопросы о недостатке этнического и социокультурного разнообразия во многих технологических фирмах. Последние должны избегать как Сциллы негативных стереотипов, так и Харибды идеализации «модельного меньшинства». И очень мало подтверждений того, что ведущие в области ИИ и робототехники фирмы способны хоть в какой-то мере решать эти проблемы[249].

С чем сравнивать: образовательная технология и менее развитые страны

Теперь нам должно быть ясно, что школы, в которых господствуют ИИ и роботы, не смогли бы достичь нескольких основных целей образования. Но что делать в ситуации, когда учителя-люди вообще недоступны? До сих пор я рассматривал роботов и другие образовательные технологии в контекстах, которые по глобальным меркам являются индустриализированными и характерны по крайней мере для среднего дохода. То есть сравнение в основном велось с традиционным американским, китайским, японским или европейским школьным классом, в котором работает хорошо образованный и компетентный учитель. Но образование такого типа доступно не везде – в силу либо реальной нехватки ресурсов, либо некомпетентного управления. И хотя богатым доступны определенные островки отличного образования, бедные дети в менее развитых странах часто выдавливаются из области качественного образования самой его ценой. В некоторых областях государственное финансирование учителей равно нулю.

Это неравенство подтолкнуло Николаса Негропонте начать кампанию «По ноутбуку каждому ребенку». Но точно так же оно могло бы подстегнуть филантропические начинания, направленные на внедрение образовательных роботов в классах (или бедных домах) по всему миру. Нейропластичность в раннем возрасте представляет собой удивительную возможность – например, во взрослом возрасте учить иностранный язык намного сложнее, чем в детстве. В таком случае даже несложные роботы с некоторым базовым пакетом языковых и математических способностей могли бы стать неоценимым подарком для детей по всему миру.

Но следует признать ограниченность даже такого подхода. Хотя технология представляется в качестве способа выровнять общие условия, в действительности она часто лишь усугубляет уже существующие формы неравенства. Опираясь на исследование по распространению инноваций, специалист по компьютерным наукам и исследователь международного развития Кентаро Тояма подчеркивает то, что всегда есть более и