Искусственный разум и новая эра человечества - Эрик Шмидт

Несколько десятилетий назад никто не ожидал от основоположников цифрового мира, что они будут разрабатывать некие философские рамки или формулировать основы своего отношения к национальным или глобальным интересам, – точно так же, как этого никто не ожидал и от большинства других отраслей. Общество оценивало цифровые продукты и услуги по приносимой ими пользе. Инженеры искали практичные и эффективные решения, обеспечивающие связь пользователей с онлайновыми сообществами, пассажиров – с автомобилями или их водителями, а покупателей – с продуктами. Царило всеобщее возбуждение относительно новых возможностей, и мало кто интересовался тем, как цифровые решения повлияют на реальные ценности и общественные модели – например, что будет с утилизацией транспорта и загруженностью дорог при совместном пользовании автомобилями или как изменятся реальные политические и геополитические тенденции в эпоху социальных медиа.

Сетевые платформы с поддержкой ИИ появились совсем недавно, менее 10 лет назад, и базовый словарь и систему понятий для их обсуждения еще предстоит сформировать (пробел, который эта книга стремится восполнить). Разные люди, корпорации, политические партии, общественные организации и правительства неизбежно будут иметь различные взгляды на то, как должны функционировать и регулироваться такие платформы. То, что интуитивно понятно инженеру-программисту, может показаться странным политическому лидеру и совсем необъяснимым философу. То, что удобно потребителю, сотрудник спецслужбы может счесть неприемлемой угрозой, а политический лидер – отвергнуть как не соответствующее национальным интересам. То, что одно государство примет как желанную гарантию, для другого государства будет равнозначно потере выбора или свободы.

Природа сетевых платформ и их масштабы существенно осложняют совместную картину перспектив и приоритетов цифрового и физического миров. Чтобы отдельные люди, целые народы и наднациональные общности могли обосновать свое отношение к ИИ и друг к другу, нам необходимо найти общую систему координат, а для начала – договориться о терминах. Даже при разном понимании сетевых платформ нам нужно сгладить имеющиеся противоречия и научиться оценивать их влияние на отдельных людей, компании, страны, нации, правительства и регионы.

Сетевые платформы по своей сути – крупномасштабное явление. Одна из определяющих характеристик сетевой платформы заключается в том, что чем больше людей она обслуживает, тем более полезной и востребованной она становится для пользователей[33]. ИИ необходим для сетевых платформ, чтобы масштабировать услуги, поэтому почти каждый пользователь интернета постоянно сталкивается с ИИ – или как минимум с контентом, сформированным ИИ.

Например, Facebook (как и многие другие социальные сети) согласно стандартам сообщества удаляет неприемлемый контент и аккаунты. По состоянию на конец 2020 г. определены уже десятки категорий запрещенного контента. Количество активных пользователей Facebook в месяц и количество ежедневных просмотров этой соцсети в день оценивается миллиардами. Известно, что в Facebook над модерацией контента работают десятки тысяч людей, но масштабы социальной сети таковы, что удаление всего оскорбительного контента до того, как его увидят пользователи, невозможно без помощи ИИ. Такие потребности Facebook и других компаний стимулировали обширные исследования в области автоматизации анализа текста и изображений путем создания все более сложных методов машинного обучения, обработки естественного языка и компьютерного зрения.

Сейчас Facebook удаляет миллиарды фальшивых аккаунтов и спам-постов в квартал, а также сотни миллионов единиц контента с изображениями наготы и секса, запугиваниями, преследованиями, эксплуатацией, выражением ненависти, пропагандой наркотиков и насилия. Для безошибочного удаления таких материалов часто нужна человеческая оценка. Определяя, какой контент можно публиковать, модераторы и пользователи Facebook активно пользуются ИИ[34]. Обжалуется лишь небольшая часть удалений, преимущественно автоматизированных.

В последние годы ИИ стал играть значительную роль в работе поисковой системы Google. Изначально поиск Google использовал очень сложные разработанные человеком алгоритмы организации и ранжирования информации для пользователей. Эти алгоритмы представляли собой наборы правил для обработки потенциальных запросов. Если результаты оказывались не слишком полезными, разработчики-люди корректировали правила. В 2015 г. поисковая команда Google перешла от использования алгоритмов, разработанных вручную, к машинному обучению. Это был переломный момент в истории поисковой системы – внедрение ИИ значительно повысило качество и удобство ее использования, благодаря прогнозному мышлению поисковые выдачи стали лучше организованы. Но наряду с этими улучшениями оказалось, что разработчики Google теперь не слишком хорошо понимают, почему поиск дает те или иные результаты. Люди все еще могут направлять и корректировать работу поисковой системы – но не могут объяснить результаты поиска. Чтобы добиться большего удобства и точности работы системы, разработчики пожертвовали собственным пониманием ее функционирования[35].

Как видно из этих примеров, предоставление услуг, обеспечение удовлетворенности клиентов и комплаенс ведущих сетевых платформ все больше зависят от ИИ. Таким образом, ИИ постепенно и незаметно становится редактором и автором нашей реальности – и, по сути, важным действующим лицом на национальных и глобальной аренах.

Потенциальное социальное, экономическое, политическое и геополитическое влияние любой крупной сетевой платформы и ее ИИ существенно повышается благодаря ее положительному сетевому эффекту. Положительный сетевой эффект возникает при обмене и распространении информации – когда ценность возрастает по мере увеличения числа участников. При таком росте ценности успех, как правило, порождает дальнейший успех, и шансы на доминирование платформы растут. Там, где уже собралось много людей, естественным образом собирается еще больше людей, количество пользователей увеличивается, и, если сетевая платформа не слишком связана рамками государственных границ, она достигает транснациональных масштабов, где у нее почти не остается конкурентов.

Положительные сетевые эффекты появились не благодаря сетевым платформам, хотя до появления цифровых технологий такие эффекты возникали относительно редко – ведь в случае классических продуктов и услуг увеличение числа пользователей скорее понижает ценность для каждого в отдельности. Если продукт или услуга пользуются высоким спросом, такая ситуация может привести к дефициту и задержкам поставок, а продукты и услуги премиального сегмента, становясь слишком доступными, теряют в востребованности, поскольку клиенты лишаются чувства избранности, которое изначально и привлекло их к продукту.