Homo Roboticus? Люди и машины в поисках взаимопонимания - Джон Маркофф

Шнейдерман, как ведущий специалист в этой сфере, в 1990-х гг. регулярно консультировал компании вроде Apple по вопросам проектирования компьютерных интерфейсов. Шнейдерман считал себя противником искусственного интеллекта и называл в числе людей, оказавших на него влияние, Маршалла Маклюэна. Побывав на лекции Маклюэна в культурном центре Ninety-Second Street Y в Нью-Йорке во время учебы в колледже, он решил заняться исследованиями в пограничной области между точными и гуманитарными науками. По возвращении домой он напечатал визитную карточку с названием своей работы «Общая эклектика» и подзаголовком «Прогресс – не самый важный наш продукт»{144}.

Его порадовало то, что Терри Виноград перешел в лагерь сторонников антропоцентрического подхода. Когда Шнейдерман в 1970-х гг. прочитал диссертацию Винограда, она вызвала у него решительное неприятие – он даже посвятил SHRDLU критическую главу в своей книге «Психология программирования» (Software Psychology), вышедшей в 1980 г. Несколько лет спустя, когда Виноград и Флорес выпустили книгу «О понимании компьютеров и мыслительного процесса», где подчеркивали, что компьютеры не способны «понять» естественный язык, он позвонил Винограду и сказал: «Вы были моим противником, но я вижу, что все изменилось». Виноград засмеялся и заметил, что «Психология программирования» входит в список обязательной литературы на курсе, который он читает. Они стали добрыми друзьями.

В своих лекциях и публикациях Шнейдерман не стеснялся в выражениях, критикуя мир искусственного интеллекта. Он утверждал, что технологии искусственного интеллекта не только бесплодны, но и этически ущербны, поскольку не нацелены на помощь людям. По его словам, автономные системы создавали серьезные морально-этические проблемы, связанные с ответственностью за их действия, проблемы, на которые не обращали внимания специалисты по компьютерам. Полемический задор не был чем-то новым для Шнейдермана – он и прежде участвовал в громких скандалах на технических конференциях вокруг уместности разработки анимированных помощников типа Microsoft Clippy, Office Assistant и Bob, так и не принятых пользователями попыток Microsoft создать более «дружественные» интерфейсы.

В начале 1990-х гг. антропоморфные интерфейсы стали чем-то вроде хобби у компьютерщиков. Вдохновленные в какой-то мере широко известным видеороликом компании Apple о Knowledge Navigator, разработчики компьютерных интерфейсов вводили в системы полезных и болтливых мультипликационных персонажей. Банки экспериментировали с анимационными персонажами, взаимодействовавшими с клиентами на дисплеях банкоматов, а автопроизводители начали проектировать автомобили с синтезаторами речи, предупреждавшими водителей, например, о том, что не закрыта дверь. Первоначальное страстное увлечение резко прекратилось после досадного провала Microsoft Bob. Хотя программа была разработана при помощи специалистов по пользовательским интерфейсам Стэнфордского университета, ее повсеместно высмеивали как глупую идею.

С чем была связана проблема Microsoft Bob – с самой идеей «социального» интерфейса или же со способом ее реализации? Неудачная попытка Microsoft опиралась на работу исследователей из Стэнфорда Клиффорда Насса и Байрона Ривза, которые обнаружили, что пользователи хорошо реагируют на компьютерные интерфейсы, имитирующие взаимодействие с человеком. Эти два исследователя одновременно пришли в 1986 г. на кафедру коммуникаций Стэнфорда. Ривз раньше читал курс по коммуникации в Висконсинском университете, а Насс изучал математику в Принстоне и работал в IBM и Intel до того, как переключиться на социологию.

Социолог Насс в сотрудничестве с Ривзом провели ряд экспериментов и на их основе разработали теорию коммуникации, названную ими «медиауравнением». Свою книгу «Медиауравнение: Почему мы обращаемся с компьютерами, телевизорами и новыми СМИ как с реальными людьми и местами» (The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places) они посвятили исследованию склонности людей взаимодействовать с техническими устройствами – компьютерами, телевизорами и электронными медиа – таким же «социальным» образом, как и в случае взаимодействия друг с другом. После выхода в свет «Медиауравнения» Microsoft пригласила Ривза и Насса в качестве консультантов, которые проповедовали разработку узнаваемых социальных и естественных интерфейсов. Это расширяло идею, лежавшую в основе графического интерфейса Apple для Macintosh, истоки которого, как и истоки Windows, восходили к первому персональному компьютеру Alto в Xerox PARC. В обоих случаях целью было облегчение взаимодействия с компьютером за счет графической среды, имитирующей работу за столом или в офисе. Но интерфейс Microsoft Bob принял карикатурную, упрощенную до абсурда форму, которую продвинутые пользователи посчитали оскорбительной и отвергли.

Несколько десятилетий спустя успех Siri компании Apple доказал правоту исследования Насса и Ривза и позволил предположить, что причина провала Microsoft Bob кроется в реализации системы, а не в самом подходе. Siri облегчает работу в условиях, когда ввод с клавиатуры сложен или небезопасен, например на ходу или во время управления автомобилем. Microsoft Bob и Clippy тормозили взаимодействие пользователей с программой и создавали впечатление снисходительного отношения. Как выразился ветеран руководства Microsoft Тэнди Трауэр, «это все равно что предлагать учиться ездить на велосипеде, усаживая на трехколесную машину»{145}. Трауэр заметил, что Microsoft неправильно поняла идеи, предложенные социологами из Стэнфорда. «Исследования Насса и Ривза предполагают, что пользователь тем больше ожидает свойственного человеку поведения, чем больше персонажи походят на человека, – писал он. – Персонаж, похожий на Эйнштейна, чихал, когда его просили уйти. Конечно, брызги на пользователей не летели, но если почитать Насса и Ривза, то станет ясно, что это социально неприемлемое и грубое поведение. Пусть это всего лишь глупые картинки на экране, но большинство тем не менее отрицательно реагирует на такое поведение»{146}.

Программные агенты появились в самом начале эры искусственного интеллекта, когда Оливер Селфридж и его студент Марвин Мински, оба участники Дартмутской конференции по искусственному интеллекту, предложили подход к распознаванию образов под названием «Пандемониум», в котором совместно действующие программы, названные «демонами», или «интеллектуальными агентами», параллельно работают, поддерживая функцию машинного зрения. Поначалу программные агенты были просто компьютерными программами. Однако за два десятилетия ученые-компьютерщики, писатели-фантасты и режиссеры расширили эту идею. Она превратилась во впечатляющее видение взаимосвязанного компьютеризированного мира, в котором программы взаимодействуют для достижения общей цели. Программы собирают информацию, выполняют задачи и взаимодействуют с пользователями как живые слуги. Но разве в этом нет чего-то фаустовского? Шнейдермана беспокоило то, что передача компьютерам выполняемых людьми задач создаст больше проблем, чем решит. Именно это беспокойство лежало в основе его выступлений против разработчиков систем искусственного интеллекта.