Реальность+. Виртуальные миры и проблемы философии - Дэвид Дж. Чалмерс

названии главы. Может ли критически настроенный наблюдатель в современном мире избежать масштабного обмана дипфейками и фейковыми новостями? Я буду выступать за ограниченный антискептический вывод: по крайней мере критически настроенные наблюдатели в современных демократических обществах смогут избежать масштабного обмана (то есть обмана относительно подавляющего числа фактов) со стороны СМИ. Это не значит, что следует преуменьшать серьезность проблемы. На практике фейковые новости вводят в заблуждение массу людей и имеют множество пагубных последствий. И даже критически настроенные наблюдатели, возможно, не избегут обмана. Тем не менее существуют пределы того, насколько сильно они могут быть обмануты.

Чтобы подойти к этим темам, я начну с версий Вопроса Реальности и Вопроса Познания относительно дипфейков*: «Реальны ли дипфейки? Можем ли мы узнать, является ли изображение поддельным?» Затем я перейду к аналогичным вопросам о фейковых новостях*.

Реальны ли дипфейки?

Давайте начнем со связи дипфейков и реальности. Первый вопрос заключается в том, реальны ли объекты и события, с которыми мы сталкиваемся в дипфейках (на фото или в видео). Является ли дипфейковый Обама реальным Обамой? Является ли дипфейковая собака реальной собакой? Или хотя бы виртуальной собакой? Или вообще цифровым существом?

Вы могли бы сказать, что дипфейки – это разновидность виртуальной реальности. Если так, то моя версия виртуального реализма применима к дипфейкам, и мне придется сказать, что дипфейки Обамы, собаки или кошки реальны в том смысле, в каком реальны VR-версии Обамы, собаки или кошки. Интуитивно это был бы странный вывод, но я уже приводил аргументы в защиту странных выводов.

К счастью, пока еще к этому странному выводу мы не приходим. Типичные дипфейки вовсе не являются виртуальными реальностями. Напомним, что виртуальные реальности иммерсивны, интерактивны и созданы на компьютере. Дипфейки удовлетворяют одному условию, и они легко могут соответствовать еще одному. Они действительно созданы при помощи компьютера, и, хотя в настоящее время не являются иммерсивными, достаточно легко представить иммерсивные версии с 360-градусным дипфейк-видео, которое можно просматривать через гарнитуру. Однако фотографии и видео не соответствуют условию интерактивности. Дипфейковые фото и видео состоят из фиксированного изображения или фиксированной серии изображений, которым не нужно взаимодействовать ни с чем другим.

Поскольку они не интерактивны, большинство современных дипфейков похожи на цифровые фильмы, а не на VR-миры. Важно отметить, что они не содержат полноценные виртуальные объекты. В них могут быть использованы наборы битов, которые примерно соответствуют, скажем, Обаме или определенной собаке или кошке. Но эти наборы битов не имеют ничего сопоставимого с каузальными свойствами виртуальной версии объекта. Виртуальный Обама интерактивен и, следовательно, способен произносить различные реплики или двигаться в зависимости от вашего с ним взаимодействия. Виртуальная собака или даже виртуальный мяч тоже интерактивны. Дипфейковые собаки и дипфейковые мячи не обладают подобными характеристиками. Они разве что выглядят определенным образом.

Со временем появятся полностью интерактивные дипфейковые виртуальные реальности. Мы уже видели, что при помощи существующих текстов можно обучить GPT-3 и симулировать разговор, скажем, с Бараком Обамой. Различные аудио- и видеозаписи Обамы позволят ИИ выглядеть и говорить так, как он, в зависимости от обстоятельств. Даже столкнувшись с совершенно новыми входными данными, сеть будет реагировать на них в соответствии с обучением. В некоторых случаях поведение ИИ покажется неправдоподобным, но созданный ей образ, по крайней мере, будет интерактивным.

Рисунок 33. Дипфейковый Обама

Аналогичным образом нейросеть могла бы наблюдать за окружением вроде футбольного стадиона или классной комнаты и обучиться их симулировать. Даже когда будут происходить новые события, такая сеть как-то на них среагирует. Если бы мы оказались в подобном окружении, то ощущали бы его так же, как VR-версию стадиона или класса.

Что нам стоит сказать о дипфейковой виртуальной реальности? Реален ли дипфейковый виртуальный футбол? А что насчет дипфейкового виртуального Обамы?

Я бы сказал, что мы должны относиться к ним так же, как относились бы к виртуальному футболу или к виртуальному Обаме в принципе. Дипфейковый виртуальный футбольный мяч – это реальный цифровой объект с каузальными свойствами, напоминающими свойства футбольного мяча, включая способность (виртуально) отскакивать и лететь с разной скоростью и по разнообразным траекториям. В то же время это не настоящий футбольный мяч. Настоящие футбольные мячи изготавливаются из определенных материалов и имеют определенный размер. Виртуальные футбольные мячи не обладают необходимой физичностью.

Что касается дипфейкового виртуального Обамы: это реальный цифровой объект с некоторыми каузальными свойствами, напоминающими свойства Обамы. Если дипфейковый Обама будет создан с использованием технологий искусственного интеллекта ближайшего будущего, то многие каузальные свойства Обамы будут отсутствовать. Дипфейковый Обама не продемонстрирует ничего похожего на интеллект, гибкость мышления и поведение настоящего Обамы. Так что он, вероятнее всего, не будет сознательным существом или личностью. Возможно, с развитием технологий искусственного интеллекта в ближайшие десятилетия дипфейковый Обама действительно обретет интеллект настоящего Обамы. Если так, то дипфейковый Обама, наверное, будет обладать и сознанием. Но до такого рода дипфейков еще далеко.

Является ли дипфейковый виртуальный Обама реальным Обамой? Кажется очевидным, что любой дипфейк ближайшего будущего – ненастоящий Обама, так же как робот-Обама – ненастоящий Обама. С более продвинутым искусственным интеллектом это будет уже не так очевидно. Возможно, достаточно хорошая симуляция Обамы могла бы стать продолжением реального Обамы, своего рода загруженной версией Обамы, реконструированной по одним лишь его поведенческим данным. Некоторые философы расценили бы такую загрузку как продолжение жизни Обамы. Если бы этот процесс происходил спустя много времени после смерти Обамы, возможно, его посчитали бы даже воскрешением. С другой стороны, если продвинутый дипфейк будет создан, пока биологический Обама еще жив, большинство людей будут склонны считать дипфейк ненастоящим Обамой. Все это поднимает сложные вопросы, которые я обсуждаю в пятнадцатой главе.

Таким образом, наш ответ на Вопрос Реальности неоднозначен. Сегодня дипфейки основаны на реальных цифровых объектах, но не имеют ничего сопоставимого с каузальными свойствами стандартных виртуальных или физических объектов. А в долгосрочной перспективе виртуальные дипфейки на базе искусственного интеллекта, возможно, обретут каузальные свойства. Однако в обоих случаях мы, вероятно, скажем, что дипфейк – это ненастоящий предмет. Дипфейковый Обама – это (вероятно) ненастоящий Обама. Дипфейковый футбол – это (вероятно) ненастоящий футбол. Все это подталкивает нас всерьез рассмотреть вопрос о знаниях.

Как мы можем узнать, является ли изображение реальным?

Предположим, мы смотрим видео, на котором Обама что-то говорит. Откуда мы знаем, что это настоящий Обама? Можем ли мы знать, что изображение настоящее? Проблема распространяется на любую фотографию или видео. Как мы узнаем, является ли фотография