Искусственный разум и новая эра человечества - Эрик Шмидт

В ответ операторы сетевых платформ должны будут принимать решение о том, готовы ли они вести себя как национальные или региональные компании, потенциально находящиеся в нескольких отдельных юрисдикциях. Или, наоборот, они, как глобальные компании, будут следовать своим независимым ценностям, которые могут не совпадать с приоритетами какого-либо конкретного правительства.

На Западе и в Китае стали осторожнее воспринимать цифровые продукты и услуги «другой стороны», особенно если это касается сетевых платформ с поддержкой ИИ. В других странах правительства и пользователи могут увидеть в главных сетевых платформах выражение американской или китайской культуры или интересов. Обычно операторы платформ не считают себя представителями своей страны или региона и не чувствуют себя обязанными действовать в национальных интересах, определенных правительствами. Ценности и организационные принципы операторов сетевых платформ могут отражать ценности и организационные принципы стран, из которых они вышли, но по крайней мере на Западе такого требования не существует. В западных корпоративных культурах самовыражение и универсальность часто ставятся важнее национальных интересов или соответствия устоявшимся традициям.

Даже там, где не произошло технологического разделения между странами или регионами, правительства начинают распределять компании по отдельным лагерям, которые обслуживают определенные группы пользователей, занимающихся определенной деятельностью. Работая с различными группами пользователей, ИИ получит разного рода уроки, которые будут по-разному менять его поведение. Это значит, что в исходно глобальной индустрии со временем может начаться процесс регионализации – объединение пользователей в блоки, находящиеся под влиянием различных ИИ, которые развиваются в разных направлениях. Постепенное разобщение, выраженное в появлении различных API, ИИ с отличными друг от друга целями и разных стандартов доступа и поведения пользователей, может привести к взаимно непохожим, несовместимым и непонятным результатам. Со временем могут сформироваться сферы региональных технологических стандартов, в которых различные сетевые платформы будут развиваться по параллельным, но совершенно отличным друг от друга направлениям, а общение и обмен между ними будут затруднены.

Взаимодействие отдельных лиц, компаний, регуляторов и национальных правительств, стремящихся сформировать и направить сетевые платформы, будет становиться все более сложным, в нем будут появляться элементы стратегического соревнования, торговых переговоров и этических дебатов. Не менее сложные дилеммы, вероятно, будут вызваны геополитическими и экономическими факторами применения сетевых платформ. Актуальные вопросы будут устаревать к тому времени, когда официальным лицам удастся собраться для их обсуждения, – например, потому что сетевая платформа уже научится новому поведению, которое сделает первоначальные условия дискуссии неактуальными. Создатели и операторы могут лучше понимать цели и ограничения сетевых платформ, но вряд ли смогут заранее предугадывать возможные опасения правительств или более широкие философские возражения. Диалог между ними об основных проблемах и подходах крайне необходим – и он должен состояться по возможности до того, как ИИ станет частью глобальных сетевых платформ.

Человеческое понимание реальности уже давно определяется человеческим восприятием, человеческим опытом и человеческим разумом. Но до сих пор человеческий опыт восприятия реальности был индивидуальным и ограниченным, широкое соответствие достигалось только в понимании некоторых важнейших вопросов и явлений, такой опыт крайне редко мог быть глобальным или универсальным – разве что в вопросах религии. Теперь благодаря сетевым платформам, объединяющим огромные массивы пользователей, повседневная реальность стала глобальной. Человеческий разум больше не является единственным навигатором по реальности – ему помогают (в некоторых областях, возможно, вытесняя его) континентальные и глобальные сетевые платформы.

Сегодня нужны новые концепции взаимопонимания и взаимных ограничений между регионами, правительствами и операторами сетевых платформ. Человеческий разум никогда не функционировал так, как того требует эпоха интернета. ИИ начинает оказывать комплексное воздействие на оборону, дипломатию, торговлю, здравоохранение и транспорт, ставя слишком сложные стратегические, технологические и этические дилеммы для того, чтобы их кто-либо мог решить в одиночку или в рамках какого-либо одного направления деятельности. Появление сетевых платформ создает вопросы, которые не следует рассматривать исключительно как национальные, партийные или технологические.

Правительства будут пытаться взаимодействовать с миром сетевых платформ и менять его. При этом они могут практиковать несколько возможных подходов. Они могут создавать свои собственные сетевые платформы, чтобы с их помощью доминировать в глобальном масштабе. Также они могут пытаться сдерживать технологический рост других сетевых платформ. Наконец, они будут искать способы сосуществования с платформами стран-соперниц вдоль географических или технологических границ, устанавливая для них ограничения, основанные на этических стандартах и требованиях национальной безопасности.

Стратеги должны учитывать уроки предыдущих эпох (мы поговорим о них в главе 5) и не рассчитывать на полную победу в любом коммерческом и технологическом соревновании. Они должны признать, что для победы нужно – достаточно надолго – договориться с обществом о том, что считать победой. Это, в свою очередь, потребует ответа на вопросы, которые не давали покоя политическим лидерам и специалистам по стратегическому планированию в эпоху холодной войны: какой запас превосходства потребуется? В какой момент превосходство перестает иметь смысл? Какая степень неготовности будет иметь значение в случае войны?

Соответственно, операторы сетевых платформ неминуемо столкнутся с принятием решений, выходящих за рамки обслуживания клиентов и развития бизнеса. До сих пор им, как правило, не приходилось устанавливать для себя какие-либо этические нормы (например, национальные), если это не было связано с естественным стремлением развития продукта, расширения аудитории и удовлетворения интересов пользователей и акционеров. Однако по мере роста популярности и влияния сетевых платформ, включая влияние на деятельность правительств, они будут сталкиваться со значительно более серьезными проблемами. От них потребуется помощь не только в понимании возможностей и конечных целей созданных ими виртуальных миров, но и в определении принципов их взаимодействия друг с другом и с прочими общественными сферами. Так возникнет новая концепция отношений между сетевыми платформами и странами, в которых они действуют, – и их влияния на общественное благо и международный порядок.

На протяжении всей истории человечества обязательным условием существования организованного общества была безопасность. У разных культур были разные ценности, у разных государств – разные интересы и стремления, но условием выживания любого народа оставалось умение защищаться – либо самостоятельно, либо вступая в союзы.