Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

том, как их можно экстраполировать на людей с похожими выражениями лиц или похожим поведением? Если участникам эксперимента не платят, они, возможно, попросту стремятся разделаться с заданием как можно быстрее. Если же им платят, отчеты о себе могут не слишком отличаться от рутинного заполнения «капчи», когда торопливые сдельные работники больше стремятся отчитаться так же, как и остальные, чем найти некую «фундаментальную истину» в том, что они видят.

Второй «ответ» на недовольство точностью распознавания эмоций и внимания состоит в том, что без такого распознавания можно и обойтись. Школа может нацелиться на культивацию выражений и поведения, которая лучше всего коррелирует с тем, что в конечном счете должно быть произведено. В самой грубой версии такого подхода выявленные выражения и поведение следовало бы соотнести с баллами за тесты, что позволяет составить базу данных внешнего поведения, которое соотносится с наилучшими результатами. Администраторы тогда могли бы сообщать родителям, насколько близки их дети к поведению, которое, как выяснилось, в прошлом коррелировало с высокими баллами.

В высшем образовании целевым показателем можно сделать начальные заработки или премии за ученую степень (то есть надо считать, насколько заработок данных выпускников превышает заработки других людей того же возраста).

Подобный сугубо бихевиористский подход, отвлеченный от любой озабоченности тем, что происходит в голове у студентов, порождает немало проблем. «Датификация» эмоций в образовании кажется по-настоящему зловещей, когда предполагает предписание состояний и установок[236]. Но, по крайней мере, она дает учащимся определенное представление о том, к какой аффективной жизни они должны, по мнению властей, стремиться. Чисто бихевиористская модель отказывается даже от этой минимальной ясности, заставляя своих подопытных попросту обезьянничать.

Здесь можно задуматься о том, стоит ли вообще игра свеч. Каждому необходимо определенное «закулисное», то есть неподконтрольное время (или, по крайнее мере, то, что контролируется в меньшей степени, чем в случае со студентами, за которыми пристально следили камеры ClassCare или роботы-учителя). Программы оценки внимания и эмоций склоняют к избыточной самоинструментализации. Нам всем необходимо искать баланс в том, как мы выражаем или сглаживаем, развиваем или подавляем собственные эмоциональные реакции. Это воспитание чувств в юности может быть тяжелой задачей. Существует тонкое равновесие между тем, что Ханна Арендт называет «защитой ребенка» и «защитой мира»[237].

Чтобы дети могли лучше адаптироваться в мире, в который они позже вступят, школы должны формировать своих учеников, но в идеальном случае лишь в определенной мере. Когда контроль становится тотальным и особенно когда он навязывается неразумно и механистически, нагрузка на психику может оказаться слишком большой. Когда каждый акт сопротивления или ослабления внимания может наказываться, спонтанность умирает. И тогда учащиеся могут попытаться инструментализировать практически все свои реакции, так что никакого зазора между их собственными желаниями или реакциями и желаниями и реакциями, которых от них все больше требуют власти, оснащенные компьютерами, просто не останется. Каковы бы ни были преимущества социальной гармонии и согласия, подобный ледяной порядок – не что иное, как оскорбление свободы и подавление способности выносить самостоятельные суждения.

Положительные варианты применения роботов-помощников

Если регулирующие ведомства смогут усмирить всепожирающий аппетит надзирательного капитализма к данным и контролю, помощь роботов и правда может сыграть позитивную роль во многих классах. Критически важно изменить формат и перейти от учащихся, которых контролирует технология, к учащимся, которые сами ее контролируют и играют с ней.

Вместо того чтобы перегонять студентов из одной цифровой среды в другую, преподаватели, способные их вдохновить, показывают им, как влиять мир никак ему не навредил. Но и мир нуждается в защите, чтобы не пострадать и не перевернуться под натиском нового, обрушивающегося на него с каждым новым поколением». на такие среды и даже как их создавать. Сеймур Пейперт, выдающийся исследователь образования из MIT, предложил одну из первых версий участия такого типа еще в 1970-х гг. Он разработал программы, помогающие студентам самостоятельно обучаться написанию программ. Для людей с хорошими пространственными способностями роботы Пейперта могут быть настоящим подарком, помогающим на довольно раннем этапе понять силу компьютерных языков, позволяющих общаться с механическим миром и заставлять его делать те или иные вещи[238].

Но зачастую детей начинают приучать к бихевиористской модели образования слишком рано, а потому школу они воспринимают в качестве пространства бюрократического контроля[239]. Счастливцам удается получить более разнообразную когнитивную диету и полные возможности исследовать навыки, которые им нравится культивировать, – речевые, количественные, социальные, атлетические или какие-то иные. Эти возможности следует демократизировать, и в этом может помочь технология. Рассмотрим Dragonbot, который был разработан в MIT. Это обманчивое в своей простоте сочетание мягкой игрушки (милого дракона) и смартфона (который служит лицом дракона). Робот может чувствовать взаимодействие ученика с планшетом – у него есть программа, которая отслеживает, каких слов и объектов ученик касается на планшете. Интернет-связь позволяет легко передавать ответ с планшета на Dragonbot и наоборот.

Dragonbot может задавать детям уроки и оценивать их ответы и реакции. Также он может поменяться с ними ролями и попросить, чтобы они его учили. Так, в одном из сценариев робот спрашивает у учеников, какое из пяти слов на экране планшета соответствует слову «дракон», и может подбодрить их определенным вознаграждением, если они дают правильный ответ[240].

Некоторые посчитают, что в таких учебных упражнениях маленького ученика должен постоянно участвовать квалифицированный учитель или любящий родитель. И можно только надеяться на то, что они будут сопровождать его на протяжении всей учебы. Однако детям нужны также и перерывы в общении со взрослыми, чтобы выработать собственное ощущение самостоятельности и контроля. В своих лучших чертах Dragonbot как раз и может предоставить такие возможности. Забавные умные игрушки способны стереть границу между работой и игрой. Также они могут подтолкнуть к позитивному общению, став общим фокусом внимания взрослых и детей[241].

Обучение путем преподавания – еще одна постоянная тема образовательных роботов. Например, исследователи Лаборатории человеческо-компьютерного взаимодействия в обучении и преподавании одного из французских университетов попросили детей научить робота тому, как правильно писать буквы [242]. Программисты намеренно приказали роботу выдавать плохие имитации букв, чтобы дети могли гордиться тем, как они учат его писать лучше. Робот смог воодушевить учеников и подкрепить уже имеющиеся у них знания. Хорошо спроектированные образовательные игрушки способны наделить детей чувством собственной власти – одновременно над роботами и благодаря роботам[243].

Также роботы способны развивать чувство родства, дружбы и любви к машинам, но в этом случае ситуация несколько усложняется. Какую установку по отношению к обучающему роботу-помощнику должен усвоить ребенок? Образы