Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

это бесспорно»[199]. При работе с его «обучающей машиной» студенты должны были нажимать рычаги, чтобы вводить ответы. В машине зажигалась лампочка, когда регистрировался правильный ответ. Некоторые версии обучающих машин даже выдавали студенту за правильный ответ конфету[200].

Грубость механистического представления Скиннера о процессе обучения у нас может вызвать смех. Тем не менее подобные простые механизмы оказали огромное влияние в несколько иных условиях. Тестирование новостной ленты, поисковые результаты, различные другие аспекты сетевой жизни – все это в конечном счете подчинено бихевиористским моделям. Мало кто в компаниях Facebook или Google интересуется тем, почему вы кликаете определенную рекламу; их цель состоит в том, чтобы вы это сделали, и основываются они на тысячах экспериментов и автоматизированных наблюдений. В этом они идут по пути разработчиков игральных автоматов, которые внимательно изучали то, как вращающиеся барабаны и картинки завлекают игроков, заставляя их тратить все больше и больше «времени на машине»[201]. Геймификация может руководствоваться соображениями не столько развлечения, сколько прибыли[202]. Специалисты по пользовательскому опыту признают то, что поиск механизмов «залипания» – общий принцип интернет-разработок[203]. И его легко применить к роботам, поскольку у людей более интимная связь с движущимися, похожими на живых объектами, чем со стационарными компьютерами[204].

Автоматизация образования

Дети, мозг которых только развивается, удивительно адаптивны. Учитывая возможность повсеместного распространения ИИ в будущем, следует ли знакомить детей с ним в самом нежном возрасте? И если да, то как? Сможет ли ИИ когда-нибудь заменить человеческое участие и внимание?

Исследователи из Токийского университета, пытавшиеся ответить на эти и другие вопросы, испытали Саю, удаленного управляемого гуманоидного робота-учителя, который работал в начальной школе и в университете[205]. Сая построена так, что у нее есть анимированное лицо, которое выражает эмоциональные реакции на ответы и поведение студентов. У робота было по меньшей мере семь выражений лица (включая грусть, злость и счастье). Девятнадцать частей лица робота могли двигаться, в частности поднимать брови и щеки, опускать уголки губ и сморщивать нос[206]. Исследователи скоординировали содержание инструкций Саи с выражением ее лица. Например, правильный ответ приветствовался улыбкой; приказу «тихо!» соответствовало выражение недовольства, которым следовало усмирять болтливых и рассеянных учеников.

Исследователи Токийского университета испытали Саю лишь в немногих классах, поэтому сделать общие выводы на основе их результатов сложно. Однако они выявили существенные различия в отношении к роботу между учениками начальной школы и студентами университета. Школьникам было легко увлечься, им было веселее в классе, и они говорили о большем желании изучать науки[207]. Студенты, напротив, высказывались сдержаннее.

Относительная сдержанность студентов предполагает по меньшей мере две интерпретации. Возможно, они считали, что инструктор, управляющий Саей, просто связывается через нее, используя телеприсутствие для того, чтобы снять с себя бремя реального присутствия в классе. После десятилетия общения с преподавателями-людьми топорная мимика и вокализация Саи, возможно, показалась им подделкой. Кроме того, лицо Саи могло оказаться в зоне «зловещей долины». Роботы относятся к одной категории, человек – к другой. Когда же роботы приближаются к облику человека, но все же не сливаются с ним, возникает почти что инстинктивное отвращение.

Можно задаться вопросом, сохранится ли эффект «зловещей долины», если дети с самого раннего возраста будут иметь дело с роботами-учителями или даже роботами-няньками. Вопрос внедрения роботов в образовании не сводится к документированию и настройке актуальных предпочтений людей. Скорее, для него требуется практика формирования будущих тенденций, в которой как можно более раннее знакомство детей с учителями-людьми или роботами выводит их на траекторию формирования подобных предпочтений и на более поздних этапах, даже когда они станут работниками или потребителями. Этот эффект психологического приучения – одна из причин, по которым многие фирмы стремятся разработать образовательную технологию: чем моложе ученик, тем более он податлив и восприимчив, тем с большей вероятностью он будет считать определенные интерфейсы и рекламу «естественным» способом взаимодействия с миром.

Эксперимент с Саей может показаться не слишком впечатляющим. Учитель-робот не был автономным; в определенных отношениях это была всего лишь кукла, которой управлял инструктор-человек. Она провела «занятия» лишь в нескольких классах[208]. Но прогресс в области программирования эмоций мог бы повысить подвижность и восприимчивость роботов, сделав их более эффективными передатчиками знаний или помощниками в обучении. Исследователь образования Нил Селвин назвал свою недавнюю книгу «Должны ли роботы заменить учителей?». Хотя Селвин оценивает широкое распространение учителей-роботов скептически, он выделяет некоторые конкретные примеры, в которых что-то может оказаться лучше, чем ничего, то есть в тех случаях, когда учителя-люди недоступны, может пригодиться образовательная технология[209].

Можно ли представить революцию в начальном образовании, учитывая критическое количество родителей, которые хотят оставить детей дома, чтобы их учил робот-учитель? Это радикальное представление о переменах сталкивается с определенными трудностями, стоит только представить, как оно могло бы осуществиться на практике. В значительной доле семей с детьми школьного возраста работают оба родителя[210]. Но школа – это не только место для обучения, это еще и организация, занятая уходом за детьми, то есть услугой, которая постоянно дорожает. Поэтому роботизация начального образования не обязательно будет означать экономию, раз ученики останутся дома и будут выполнять задания в сети. Скорее, она может привести к переносу ресурсов от одной группы (учителей) к другой (нянькам). Интегрирование «модуля няньки» в образовательных роботах может стать еще одним вариантом, но он создает собственные этические дилеммы[211].

Последовательные футуристы готовы отстаивать роботизированный уход за детьми как дополнение к учителям-роботам. В будущем третьеклассник, возможно, будет получать завтрак от какого-то аналога робота Рози из мультипликационного сериала «Джетсоны», потом его на музыкальные или спортивные мероприятия отвезет беспилотный автомобиль, а в школе он будет рад урокам учителя-робота. Но все это пока дело далекого будущего, которое, возможно, никогда и не сбудется, если учитывать недоверие родителей к постоянной технологизации детства.

Но должны ли родители приветствовать подобный технологический прогресс? Учитывая очевидную уязвимость детей, на этот вопрос, вероятно, надо ответить отрицательно. Если роботы начинают играть роли, которые традиционно исполняли люди, взрослые могут это тут же распознать. Когда же ученики не могут распознать роботизированную сущность учителя, они не просто начинают верить хитрой человекоподобной машине. Скорее, робот в таком случае попросту обманывает детей, заставляя их поверить в то, что внимание им уделяет взрослый[212]. И опасность здесь не только в обмане детей, но и в тонкой идеологической обработке, приучении к тому, что данное и сделанное, человек и машины в каком-то глубинном смысле не различаются, а