Искусственный разум и новая эра человечества - Эрик Шмидт

В эпоху ИИ сохранятся и разум, и вера, но реальность, в которой они будут существовать, коренным образом изменится из-за появления новой мощной формы разума, управляемого машиной. Наверное, основой человеческой идентичности останется одушевленный интеллект, но теперь человеческий разум не будет единственной формой интеллекта, пытающейся познать мир. Чтобы определить наше место в новом мире, возможно, придется сместить акцент с центрального места человеческого разума на наши достоинство, человечность и самодостаточность.

На данном этапе компании и правительства занимаются интеграцией ИИ в общественную и политическую жизнь от случая к случаю и активно берутся за дело лишь тогда, когда что-то идет не так. Это позволяет откладывать принятие сложных решений. Чтобы не оставлять без внимания то, как ИИ влияет на человеческий опыт и человеческую идентичность, нам придется действовать более четко.

Особенностью Просвещения было стремление понять, что такое человеческий разум, – в сравнении и по контрасту с предыдущими эпохами. Взгляды на природу человека и структуру общества политических теоретиков Просвещения – Гоббса, Локка, Руссо и многих других – вытекали из знаний о природе. Другие философы задавались вопросом, как объединить и распространить человеческие знания, чтобы обеспечить просвещенную власть и процветание человечества. Мы не решим проблемы интеграции ИИ, не предприняв всесторонних усилий к пониманию природы человека.

Первым шагом должно стать осознание наших возможностей. Мы можем поступить тремя способами: либо ограничить ИИ, либо отнестись к нему как к равному партнеру, либо отступить перед ним. Каждая страна должна будет определиться с тем, какой подход к ИИ в каждом конкретном случае ей ближе, в соответствии со своими ценностями, потребностями и возможностями. Совокупность таких решений и определит культуру и мировоззрение каждого общества.

Можно проявить осторожность и оставить ИИ в роли младшего партнера, ограничив его использование отдельными функциями и описав, когда, где и как он может применяться. Государства или отдельные люди могут оставить за собой главенствующую роль, низведя ИИ до положения вспомогательного персонала. Но эти ограничения могут не выдержать проверки реальным соперничеством, о чем свидетельствуют проблемы безопасности, описанные в главе 5. Какая компания откажется от возможностей ИИ, которые успешно использовал для вывода популярных продуктов или услуг на рынок ее конкурент, если этому не будут препятствовать серьезные этические или юридические ограничения? Если ИИ позволяет администратору, архитектору или инвестору делать успешные прогнозы или контролировать ситуацию, разве они не воспользуются этим? Отдельные ограничения на различные виды использования ИИ, вероятно, придется принимать на уровне стран или даже на международном уровне.

Во многих сферах ИИ и человек станут равноправными партнерами в исследованиях. Это значит, что новое понимание человеческой идентичности будет отражать примирение с нашими новыми отношениями с ИИ и с окружающим миром. Будут выделены отдельные области деятельности, в которых останется главенствовать человек. В то же время будут развиваться социальные структуры и привычки, необходимые для понимания и плодотворного взаимодействия с ИИ. Государства должны создать интеллектуальную и психологическую инфраструктуру для взаимодействия с ИИ, используя его на благо человека. Технология потребует адаптации во многих, более того, в большинстве аспектов политической и социальной жизни.

ИИ может взять на себя ведущую роль в исследовании и управлении как физическим, так и цифровым миром. В определенных областях люди могут подчиниться ИИ, предпочитая его возможности ограничениям человеческого разума. Такое подчинение побудит многих или даже большинство людей уйти в собственные, индивидуальные миры. В этом сценарии мощь ИИ в сочетании с его вездесущностью, невидимостью и непрозрачностью поставит тревожные вопросы о перспективах свободного общества и даже свободы воли.

При каждом отдельном развертывании ИИ будет крайне важно определить баланс. Обществу и его лидерам придется выбирать, когда люди должны быть уведомлены о том, что они имеют дело с ИИ, а также какими полномочиями они обладают в этом взаимодействии. В конечном счете благодаря этому выбору появится новое понимание человеческой идентичности для эпохи ИИ.

Некоторые страны и институты могут постепенно приспособиться к ИИ. Или же они могут обнаружить с его помощью противоречия между своими основными принципами и собственным восприятием реальности и самих себя. Поскольку ИИ способствует повышению уровня образования и доступа к информации, даже вопреки тому, что увеличивает возможности для манипуляций, это может увеличивать напряжение. Когда люди лучше информированы, лучше оснащены и имеют подтверждение своей точки зрения, они могут требовать от своих правительств большего. Для США это особенно актуально.

И здесь вырисовывается несколько принципов. Во-первых, чтобы обеспечить независимость человека, основные правительственные функции не должны осуществляться ИИ – выполнять их и контролировать их выполнение должен человек. Еще Аристотель определил человека как «zoon politicon» – «политическое животное». С тех пор признано, что, помимо разума, люди отличаются склонностью к формированию сложных обществ и осуществлению скоординированных действий. Принципы, присущие нашим обществам, обеспечивают мирное разрешение споров. Порядок и легитимность в этом процессе взаимосвязаны: порядок без легитимности – это просто сила, которая не может долго существовать.

Важное значение для поддержания легитимности будет иметь человеческий надзор и определяющее участие человека в основных элементах управления. Ни ИИ, ни его создатели в настоящее время не могут точно описать, как ИИ приходит к тем или иным выводам. Однако, например, в системе правосудия легитимность принятых решений определяют именно объяснение и моральное обоснование – они позволяют оценивать справедливость суда и оспаривать его выводы, если они не соответствуют моральным принципам общества. Из этого следует, что и в эпоху ИИ лицами, принимающими решения, должны оставаться квалифицированные люди, способные обосновать сделанный выбор.

Демократия тоже должна оставаться «человеческой». На самом базовом уровне это означает защиту целостности демократических обсуждений и выборов. Нужна не только возможность высказаться – само человеческое слово должно быть защищено от искажения ИИ. Свобода слова сохраняется для людей, но не распространяется на ИИ. Как уже говорилось в главе 4, ИИ способен в больших объемах генерировать дезинформацию очень высокого качества, например цифровые фабрикации, которые очень трудно отличить от реальных видео- или аудиозаписей. Синтез речи, безусловно, нужен, но не менее важно дифференцировать синтезированную речь ИИ и человеческую речь. Хотя регулирование посредничества ИИ, предотвращающее продвижение дезинформации, будет сложным, но оно будет иметь решающее значение, поскольку в демократическом обществе речь позволяет гражданам обмениваться актуальной информацией, принимать активное участие в демократическом процессе и заниматься самореализацией, создавая произведения различных видов искусства[69]. Генерируемые ИИ фабрикации могут заглушать или искажать человеческое слово, поэтому ограничение распространения ИИ, создающего дезинформацию, жизненно важно для того, чтобы мы могли продолжать обсуждать человеческие проблемы. Является ли сфабрикованный ИИ диалог между двумя общественными деятелями, которые никогда не встречались, дезинформацией, развлечением или политическим расследованием? От чего зависит ответ – от контекста или от участников? Может ли человек запретить создание фабрикаций со своим «участием» без его личного разрешения? А если разрешение получено, становится ли синтезированный контент от этого более подлинным?