Power and Progress - Daron Acemoglu;Simon Johnson;

люди могут быть более бдительными, находясь в незнакомой среде, которая подает тонкие сигналы опасности, даже во время отдыха или сна. В других условиях, которые они воспринимают как предсказуемые, они могут быстрее выполнять задачи, используя выученные рутины. Кроме того, ситуационный интеллект помогает людям более широко реагировать на изменяющиеся обстоятельства и распознавать лица и закономерности, используя данные из множества соответствующих контекстов.

Человеческий интеллект также является социальным в трех важных отношениях. Во-первых, большая часть информации, необходимой для успешного решения проблем и адаптации, находится в обществе. Мы получаем ее через неявную и явную коммуникацию - например, подражая поведению других людей. Интерпретация такого рода внешних знаний является жизненно важной частью человеческого познания и лежит в основе акцента на "теории разума" в этой области. Теория разума - это то, что позволяет людям рассуждать о психическом состоянии других людей и, таким образом, правильно понимать их намерения и знания.

Во-вторых, наши рассуждения основаны на социальной коммуникации; мы разрабатываем аргументы и контраргументы в пользу различных гипотез и оцениваем наше понимание в свете этого процесса. Без этого социального аспекта интеллекта люди были бы ужасными людьми, принимающими решения. Да, мы совершаем ошибки, когда нас помещают в лабораторные условия, которые не позволяют активизировать эти аспекты интеллекта, но мы избегаем некоторых из тех же ошибок в более естественных условиях.

В-третьих, люди приобретают дополнительные навыки и способности благодаря эмпатии, которую они испытывают к другим людям, а также благодаря разделению целей и задач, которое это позволяет.

Центральная роль ситуационных и социальных измерений интеллекта связана со слабой связью между аналитическими аспектами человеческого познания, измеряемыми тестами IQ, и различными измерениями успеха. Даже в научных и технических областях наибольшего успеха добиваются те, кто сочетает умеренно высокий IQ с социальными навыками и другими человеческими способностями.

В большинстве рабочих сред ситуационный и социальный интеллект позволяет не только гибко адаптироваться к обстоятельствам, но и общаться с клиентами и другими сотрудниками для повышения качества обслуживания и сокращения количества ошибок. Поэтому неудивительно, что, несмотря на распространение технологий ИИ, многие компании все чаще ищут работников с социальными, а не математическими или техническими навыками. В основе этого растущего спроса на социальные навыки лежит реальность того, что ни традиционные цифровые технологии, ни ИИ не могут выполнять важнейшие задачи, требующие социального взаимодействия, адаптации, гибкости и общения.

В то же время игнорирование человеческих возможностей может стать самоисполняющимся пророчеством, поскольку решения по автоматизации могут постепенно сократить возможности для социального взаимодействия и человеческого обучения. Возьмем для примера обслуживание клиентов. Хорошо обученные люди могут быть очень эффективны в решении проблем именно потому, что они формируют социальную связь с человеком, нуждающимся в помощи (например, сочувствуют тому, кто только что попал в аварию и должен подать иск). Они могут быстро понять суть проблемы, отчасти потому, что общаются с клиентом, и на основе этого общения предложить решения, соответствующие потребностям. Такое взаимодействие позволяет представителям службы поддержки клиентов со временем становиться лучше в своей работе.

Теперь представьте себе ситуацию, когда работа по обслуживанию клиентов разбита на более узкие задачи, а фронтальные задачи поручены алгоритмам, которые часто не могут полностью определить и решить сложные проблемы, с которыми они сталкиваются. Затем в качестве специалистов по устранению неполадок привлекаются люди, после долгой череды меню. На этом этапе клиент часто разочарован, ранние возможности для построения социальной связи упущены, а представитель службы поддержки не получает такого же объема информации от общения, что ограничивает его способность учиться на конкретных обстоятельствах и адаптироваться к ним. Это делает работу представителя службы поддержки менее эффективной и может побудить менеджеров и технологов искать дополнительные способы еще больше сократить объем поставленных перед ними задач.

Эти уроки человеческого интеллекта и адаптивности часто игнорируются сообществом ИИ, которое спешит автоматизировать целый ряд задач, независимо от роли человеческого мастерства.

О триумфе искусственного интеллекта в радиологии трубят много. В 2016 году Джеффри Хинтон, соавтор современных методов глубокого обучения, лауреат премии Тьюринга и ученый Google, предложил "прекратить обучение радиологов. Это просто совершенно очевидно, что в течение пяти лет глубокое обучение будет работать лучше, чем рентгенологи".

Ничего подобного пока не произошло, а спрос на радиологов с 2016 года вырос по очень простой причине. Полная рентгенологическая диагностика требует даже большего ситуационного и социального интеллекта, чем, например, обслуживание клиентов, и в настоящее время она находится за пределами возможностей машин. Более того, последние исследования показывают, что сочетание человеческого опыта с новыми технологиями оказывается гораздо более эффективным. Например, современные алгоритмы машинного обучения могут улучшить диагностику диабетической ретинопатии, которая возникает в результате повреждения кровеносных сосудов сетчатки глаза у пациентов с диабетом. Тем не менее, точность значительно возрастает, когда алгоритмы используются для выявления сложных случаев, которые затем передаются офтальмологам для более точной диагностики.

В 2015 году главный технический директор подразделения Google по разработке самоуправляемых автомобилей уверенно предполагал, что его тогдашнему одиннадцатилетнему сыну не нужно будет получать водительские права к тому времени, когда ему исполнится шестнадцать лет. В 2019 году Элон Маск предсказал, что к концу 2020 года компания Tesla выпустит на улицы миллион полностью автоматизированных такси без водителя. Эти прогнозы не сбылись по той же причине. Как показал эксперимент с голыми улицами, вождение в оживленных городах требует огромного количества ситуационного интеллекта для адаптации к меняющимся обстоятельствам и еще большего социального интеллекта для реагирования на сигналы других водителей и пешеходов.

 

Общая иллюзия искусственного интеллекта

Апогеем современного подхода к ИИ, вдохновленного идеями Тьюринга, является поиск общего интеллекта человеческого уровня.

Несмотря на такие огромные достижения, как GPT-3 и рекомендательные системы, нынешний подход к ИИ вряд ли скоро превзойдет человеческий интеллект или даже достигнет очень высокого уровня производительности во многих задачах, связанных с принятием решений. Задачи, в которых задействованы социальные и ситуационные аспекты человеческого познания, по-прежнему будут представлять огромные трудности для машинного интеллекта. Как только мы рассмотрим детали достигнутых результатов, станет ясно, насколько сложно перенести существующие успехи на большинство человеческих задач.

Возьмем самые громкие успехи ИИ, такие как шахматная программа AlphaZero. AlphaZero даже считается "творческой", потому что она придумала ходы, которые человеческие шахматные мастера не рассматривали или не видели. Тем не менее, это не настоящий интеллект. Начнем с того, что AlphaZero является чрезвычайно специализированной программой и может играть только в шахматы и другие подобные игры. Даже самые простые задачи за пределами шахмат, такие как простая арифметика или игры с более социальным взаимодействием, находятся за пределами возможностей AlphaZero. Хуже того, не существует очевидного способа