Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

своим оптимизмом напоминающих вигов, задача прогрессистской компьютерной элиты в том, чтобы сблизить неизбежно совершенствующиеся технические аппараты с медоточивыми «машинами благодати и любви» Ричарда Бротигана. Однако быстрая автоматизация – траектория, на которой немало дистопийных возможностей. Институты, которые кажутся крепкими, могут стать на удивление хрупкими[698]. Даже сегодня, когда мечта теоретиков сингулярности о том, как человек постепенно сольется с машиной, становится для культуры все более приемлемой, Джозеф показывает кошмарные социальные сдвиги, которые, скорее всего, вызовет быстрая и нерегулируемая автоматизация.

Расширение границ высказываемого

Многие исследователи квалифицированно анализировали вклад Джозефа в литературу и право[699]. Мой подход – это подход социальной теории, то есть «систематической, исторической, эмпирически ориентированной теории, пытающейся объяснить природу „социального‰, причем «под „социальным“ может пониматься широкий спектр воспроизводящихся форм или паттернов интеракций и отношений людей»[700]. Социальная теория крайне важна для политических взглядов, которые управляют законодательством, регулированием и даже многими спорными применениями права. Стихотворения Джозефа построены не только так, чтобы соединить звук и смысл (что является главным качеством поэзии), они также показывают паттерны власти и смысла в мире, изучая разветвления критических терминов. Такова суть поэтической процедуры Джозефа: прояснение фундаментальных аспектов человеческого опыта. Оно позволяет выявлять стихийное и поверхностное, эпохальное и мимолетное, возводя их к идеям и институтам, определяющим наиболее важные стороны нашей реальности, в которой мы живем.

Приписывать такие способности литературе (и даже, что еще более возмутительно, предполагать, что она имеет некое значение для политического курса и права) – значит нарываться на остракизм. В типологии Ричарда Брауна модерн в типичном случае проводит четкое различие между следующими областями и категориями[701]:

К счастью, Браун составляет эти оппозиции только для того, чтобы примирить противопоставленные термины – говоря точнее, создать пространство для обеих сторон в холистической зоне социальной реальности за пределами объективности и субъективности[702]. Господство неолиберального менеджериализма на многие десятилетия вытеснило подобный холизм, однако недавнее развитие критических алгоритмических исследований (вместе с общественным пониманием пределов технологий) позволило ему снова выйти на передний план[703]. Хотя латинская этимология вводит в заблуждение, указывая на то, что «данные» (data) – это объективная «данность», опытные аналитики понимают, что даже количественные результаты научных исследований лучше считать не данными, а «схваченными» (capta, то есть впечатлениями, активно захваченными наблюдателем, находящимся в определенной ситуации и обладающим определенными качествами, целями и схемами интерпретаций)[704].

Социальная реальность не существует «где-то там», и она не то, что нужно было бы просто плохо или хорошо отобразить словами, числами и кодом[705]. Скорее, у всех этих символов есть способность производить и переделывать социальный мир. Наша языковая способность описывать и переописывать демонстрирует исключительно человеческую амбицию – раздвигать границы «высказываемого», приходить иногда к консенсусу, но также заострять различия. Чарльз Тэйлор говорит о «новом гештальтировании нашего опыта», происходящем, когда действительно сильные и убедительные выражения, статьи, стихотворения или романы вступают с нами в резонанс[706]. Органично соединяя друг с другом науку и искусство, описание и самовыражение, Тэйлор и Браун помогают нам понять роль литературы и искусства в формировании современной социальной теории, способной постичь и прокомментировать наше сегодняшнее плачевное положение. Риторика обосновывает наше чувство социальной реальности. Она является свойством социальных смыслов, кристаллизовавшихся в резонирующем языке, который подкрепляет смысл звуком, а внутреннее чувство – внешним объективным коррелятом.

Рассказы о будущем движут экономикой и обществом, они не являются всего лишь вторичной попыткой понять то, что уже случилось. Эта идея, восходящая к Кейнсу, недавно было заново проработана в книге нобелевского лауреата Роберта Шиллера «Нарративная экономика»[707]. Не существует физики рынков; экономика с начала и до конца – гуманитарная наука, и она останется непредсказуемой, пока у людей есть свобода воли. Как отметил Деннис Сноуэр, председатель Института мировой экономики в Киле, «стандартные статистические анализы больше не могут считаться валидными. Они предполагают, что нам известны вероятности, с которыми будут случаться события. На самом деле мы почти всегда такого знания лишены»[708]. Нарративы (в их доступных версиях) критически важны для представления будущего[709]. Речь идет не обязательно о компрометации истины или обоснованности. Профессор права и социальный теоретик Джек Балкин утверждал: «Структуры нарративной памяти особенно полезны для памяти о вещах, которые опасны или, наоборот, выгодны, для сложных эмпирических суждений о будущем, для определения того, какой порядок действий принесет пользу, для воспоминания о том, как делать вещи в определенной последовательности, а также для заучивания социальных условностей и следования им»[710]. Глубокое осмысление того, как именно люди выносят «сложные эмпирические суждения», – это основание предсказательного социального исследования, нацеленного не только на выявление паттернов прошлого, но также и на определение облика будущего.

Когда стандартная экономика, отстаивающая принципы laissez-faire, теряет свои облачения объективизма, появляется больше пространства для возникновения и развития новых способов коммерческой жизни[711]. Пришла пора рассказать новые истории о природе и целях курса на автоматизацию.

Автоматизированные структуры не должны существовать просто для того, чтобы довести нас или наши данные из пункта А в пункт Б по наименьшей цене; они должны быть еще и источником справедливо оплачиваемого и безопасного труда. Наши инвестиции в робототехнику не должны быть попросту способом накопления денег на пенсию; они должны работать, чтобы был мир, в котором мы захотим выйти на пенсию. Слишком легко тратить ресурсы на конкуренцию, поэтому третий новый закон робототехники требует контролировать многие секторы общественной жизни, чтобы в них не складывалась динамика гонки вооружении[712].

Прогресс в области вычислений и машинного обучения создал социотехнические системы, которые кажутся почти что магическими или для человека необъяснимыми. Даже лучшие инженеры в Google или Facebook не смогли бы выполнить обратный инжиниринг определенных алгоритмов поиска или новостных лент. В силу ускорения обработки и ввода данных цифровой мир может показаться таким же неуправляемым и неспокойным, как погода. Как отметила инженер и философ Мирей Хильдебрандт, для нас цифровая среда все чаще будет столь же влиятельной и важной, как и естественный мир[713]. Техноцен дополняет антропоцен, напоминая нам о том, какое значение могут приобрести непреднамеренные последствия. Новые законы робототехники, даже если они не станут частью формального законодательства, способны помочь нам вообразить будущее, в котором ИИ уважает человеческое достоинство и идентичность, помогая их сохранить.

Эстетический ответ и моральное суждение

Один из наиболее глубоких художественных примеров подобного воображаемого будущего – творчество художника Эрнесто Кайвано. Воплощенное в сотнях