Power and Progress - Daron Acemoglu;Simon Johnson;

скорее всего, собираете данные, очищаете данные, маркируете данные, разделяете данные, обучаетесь на данных, оцениваете данные. Данные, данные, данные. И все это для того, чтобы модель сказала: Это кошка". Такое внимание к огромному количеству данных является фундаментальным следствием акцента на автономность, вдохновленного Тьюрингом.

Во-вторых, благодаря такому подходу современный ИИ оказался очень масштабируемым и переносимым, и, конечно, в областях, гораздо более интересных и важных, чем распознавание кошек. Как только проблема распознавания кошек на фотографии будет "решена", мы сможем перейти к решению более сложных задач распознавания изображений или как, казалось бы, несвязанных проблем, таких как определение смысла предложений на иностранном языке. Таким образом, существует потенциал для действительно широкого использования ИИ в экономике и в нашей жизни - во благо, но часто и во вред.

В крайнем случае, целью становится разработка полностью автономного, общего интеллекта, который может делать все, что может делать человек. По словам соучредителя и генерального директора DeepMind Демиса Хассабиса, цель состоит в том, чтобы "решить проблему интеллекта, а затем использовать ее для решения всех остальных проблем". Но является ли это лучшим способом разработки цифровых технологий? Этот вопрос обычно остается незаданным.

В-третьих, и это еще более проблематично, такой подход еще больше подтолкнул сферу к автоматизации. Если машины могут быть автономными и интеллектуальными, то вполне естественно, что они будут брать на себя все больше задач от работников. Компании могут разбить существующие рабочие места на более узкие задачи, использовать программы искусственного интеллекта и многочисленные данные для изучения того, что делают люди, а затем заменить алгоритмами людей в этих задачах.

Элитарное видение усиливает это внимание к автоматизации. Большинство людей, по мнению сторонников этой точки зрения, склонны к ошибкам и не очень хорошо справляются с задачами, которые они выполняют. Как говорится на одном из сайтов, посвященных ИИ: "Люди от природы склонны к ошибкам". С другой стороны, есть очень талантливые программисты, которые могут разрабатывать сложные алгоритмы. Как сказал Марк Цукерберг: "Тот, кто является исключительным в своей роли, не просто немного лучше того, кто довольно хорош. Они в 100 раз лучше". Или, по словам соучредителя Netscape Марка Андреессена, "пять великих программистов могут полностью превзойти 1000 посредственных программистов". Исходя из этого мировоззрения, желательно использовать нисходящее проектирование технологии исключительными талантами, чтобы ограничить человеческие ошибки и их стоимость на рабочих местах. Замена работников машинами и алгоритмами становится приемлемой, а сбор огромного количества данных о людях - допустимым. Такой подход еще больше оправдывает достижение человеческого паритета, а не дополнение человека, как критерий прогресса и удобно сочетается с акцентом корпораций на сокращение затрат на рабочую силу.

 

Недооцененный человек

Даже в условиях вытеснения и массового сбора данных рост производительности труда за счет новых технологий иногда может повысить спрос на работников и увеличить их заработок. Но преимущества для работников появляются только тогда, когда новые технологии существенно повышают производительность. Сегодня это вызывает серьезную озабоченность, потому что ИИ пока что привнес много "мягкой" автоматизации с ограниченными преимуществами в плане производительности.

При значительном росте производительности это может свести на нет некоторые негативные последствия автоматизации - например, за счет увеличения спроса на труд в неавтоматизированных задачах или стимулирования занятости в других секторах, которые впоследствии расширяются. Однако если снижение затрат и рост производительности будут незначительными, эти положительные эффекты не проявятся. Автоматизация "так себе" представляет особую проблему, поскольку она вытесняет работников, но не дает результатов в плане производительности.

В эпоху искусственного интеллекта существует фундаментальная причина низкой эффективности автоматизации. Люди хороши в большей части того, что они делают, и автоматизация на основе ИИ вряд ли даст впечатляющие результаты, если она просто заменит человека в задачах, для которых мы накапливали соответствующие навыки веками. Автоматизация "на уровне" - это то, что мы получаем, например, когда компании спешат установить киоски самообслуживания, которые плохо работают и не улучшают качество обслуживания клиентов. Или когда квалифицированные представители службы поддержки клиентов, ИТ-специалисты или финансовые консультанты оттесняются на второй план алгоритмами искусственного интеллекта, которые затем работают плохо.

Многие производственные задачи, выполняемые людьми, представляют собой смесь рутинной и более сложной деятельности, которая включает в себя социальное общение, решение проблем, гибкость и творчество. В такой деятельности люди используют негласные знания и опыт. Более того, многие из этих знаний и опыта сильно зависят от контекста, их трудно передать алгоритмам искусственного интеллекта, поэтому они могут быть утрачены после автоматизации соответствующих задач.

Чтобы проиллюстрировать важность накопленных знаний, возьмем кормовые общества. Этнографические исследования показывают, что охотники-собиратели постоянно демонстрируют удивительную степень адаптации к местным условиям. Например, маниок (также известен как маниока) — это высокопитательное клубневое растение родом из американских тропиков. Она используется для производства маниоковой муки, хлеба, тапиоки и различных алкогольных напитков. Однако это растение ядовито, поскольку содержит два цианистых сахара. Если растение съесть сырым или приготовить без надлежащей обработки, оно может вызвать интоксикацию цианидами, что в крайних случаях приводит к тяжелым последствиям, вплоть до смерти.

Коренные народы Юкатана поняли эту проблему и разработали несколько способов удаления яда, включая очистку растения от кожуры и вымачивание в течение некоторого времени перед длительной варкой, а затем утилизацию воды для варки. Некоторые европейцы сначала не понимали этих методов и иногда принимали их за примитивные, ненаучные традиции, а потом узнавали, какой гибелью оборачивается их несоблюдение.

Человеческая адаптивность и изобретательность не менее важны в современной экономике, хотя часто игнорируются элитой, ориентированной на технологии. Градостроители и инженеры единодушно считают, что светофоры - это ключ к безопасному и своевременному движению автомобилей. В сентябре 2009 года прибрежный английский город Портисхед отключил светофоры на одном из своих самых оживленных перекрестков. Вопреки опасениям многих экспертов, водители начали использовать больше здравого смысла и адаптивно реагировали на новую организацию. По истечении четырех недель движение на перекрестке значительно улучшилось, при этом количество аварий и травм не увеличилось. Портисхед - не исключение. Несколько других экспериментов с подобными "голыми улицами" показали аналогичные результаты. Существует дискуссия о практичности "голых улиц" в больших городах, и полное отсутствие светофоров вряд ли возможно на самых оживленных перекрестках в мегаполисах. Тем не менее, из этих экспериментов трудно не сделать вывод, что технологии, забирая у человека инициативу и суждения, иногда делают вещи хуже, а не лучше.

То же самое верно и в отношении производственных задач. Человеческий интеллект черпает свою силу в том, что он ситуативен и социален: Способность понимать окружающую среду и успешно реагировать на нее, что позволяет людям быстро адаптироваться к изменяющимся условиям. Например,