Искусственный разум и новая эра человечества - Эрик Шмидт

Технологические достижения эпохи Просвещения были весьма значительными, но до недавнего времени они вполне укладывались в традиции. Инновации продолжали привычные практики: кино было техническим усовершенствованием фотографии, телефон позволял дистанционно вести все те же разговоры, автомобили представляли собой быстро движущиеся повозки, мощность двигателей которых измерялась в лошадиных силах. В военном деле танки заменили кавалерию, самолеты – передовую артиллерию, и даже ядерное оружие дополняло предыдущий опыт ядерных держав и их понимание войны.

Но мы достигли переломного момента: появились инновации, которые уже нельзя считать продолжением известных практик. Технология стала очень быстро менять жизненный опыт человека, цифровая революция породила не просто более мощные или более эффективные версии того, что уже существовало, а принципиально новые явления. Компьютеры теперь можно встраивать в телефоны, часы, потребительскую электронику, системы безопасности, транспортные средства, оружие и даже в человеческие тела. Связь между такими цифровыми системами осуществляется практически мгновенно. Задачи, которые еще недавно решались вручную, – чтение, исследования, покупки, коммуникации, ведение записей, наблюдение, военные действия – стали цифровыми, они выполняются в киберпространстве на основе данных[24].

Цифровизация затронула все уровни человеческой организации: люди имеют доступ к бо́льшим объемам информации, чем когда-либо. Корпорации, став сборщиками и агрегаторами данных пользователей, получили больше власти и влияния, чем многие суверенные государства. Правительства, опасаясь уступить соперникам, тоже вошли в киберпространство, исследовали его и начали эксплуатировать, не слишком стремясь ограничивать себя или соблюдать некие нормы. Киберпространство для них – область, инновации в которой нужно внедрять, чтобы одержать верх над противниками.

Лишь немногие до конца понимают, к чему привела цифровая революция. Отчасти в этом виноваты скорость и перенасыщение информацией. При всех своих чудесных достижениях цифровизация сделала человеческое мышление менее контекстуальным и менее концептуальным. Так называемые цифровые аборигены не чувствуют насущной необходимости развивать концептуальное мышление, которое на протяжении большей части человеческой истории компенсировало ограниченность коллективной памяти. Они могут спросить обо всем у поисковых систем – будь то элементарные знания, сложные концепции или нечто среднее. Поисковые системы, в свою очередь, используют ИИ для ответа на запросы пользователей. Таким образом, люди делегируют технологии ИИ некоторые аспекты своего мышления. Но они не учитывают того, что информация зависит от контекста. Она становится знанием, только если понять ее через призму культуры и истории.

Информация становится знанием, когда она помещена в контекст. Знание становится мудростью, когда оно может убеждать. Интернет, давая пользователям доступ к мнениям тысяч и даже миллионов других людей, лишает их условий для размышления, которое приводит к выработке убеждений. Лишаясь способности к размышлению, люди теряют стойкость убеждений – поскольку для выработки убеждений им больше не нужно, как раньше, пускаться в длительные, зачастую одинокие путешествия по неизведанным тропам мышления. А ведь только убеждения, которые, в свою очередь, объединяются в мудрость, позволяют людям открывать и исследовать новые горизонты.

Но цифровой мир не терпит мудрости – его ценности формируются одобрением, а не самоанализом. Он фактически отрицает утверждение эпохи Просвещения о том, что наиболее важным элементом сознания является разум. Для цифрового мира основное значение имеет неограниченная связь, а не разум.

С ростом объемов информации в интернете мы обратились к программному обеспечению, которое помогает нам уточнять и сортировать ее, делать оценки на основе закономерностей и направлять нас в поисках ответов на наши вопросы. Работа ИИ казалась нам вполне обыденной – программы дописывали начатые предложения, помогали найти книгу или магазин, даже советовали почитать статьи или СМИ, которые могут нам понравиться, на основе нашего предыдущего поведения. Но по мере того, как ИИ входит в самые разные аспекты нашего существования, он меняет роль, которую наш собственный разум традиционно играл в формировании, систематизации и оценке нашего выбора и наших действий.

В 1943 г. был создан первый современный – то есть электронный, цифровой и программируемый – компьютер. Это достижение вновь сделало актуальными старые вопросы: могут ли машины «думать»? Являются ли они «разумными»? И могут ли они стать разумными? Эти вопросы казались особенно сложными, учитывая давние дилеммы о природе интеллекта. В 1950 г. математик и криптограф Алан Тьюринг нашел ответ. В статье с непритязательным заголовком «Вычислительные машины и разум» Тьюринг предложил полностью отбросить проблему «интеллекта» машины, поскольку важен не механизм, а проявление интеллекта. Невозможно познать чью бы то ни было внутреннюю жизнь, а значит, единственным средством измерения интеллекта остаются его внешние проявления. Так Тьюринг обошел стороной многовековые философские дебаты о природе интеллекта. По правилам «имитационной игры» Тьюринга, если наблюдатели не могут отличить поведение машины от поведения человека, машину следует считать «мыслящей».

Так появился тест Тьюринга[25].

Многие представляли себе выполнение теста Тьюринга буквально, не понимая, что такое машины, отвечающие его критериям, и воображая роботов, которые выдают себя за людей. Но реальная ценность теста Тьюринга проявилась в оценке работы «интеллектуальных» машин в определенных ограниченных видах деятельности, таких как игры. На самом деле тест не требует полной неотличимости от человека – он применяется к машинам, чьи действия похожи на человеческие, и фиксирует результат, а не процесс. Например, такие генераторы, как GPT-3, являются ИИ не из-за особенностей обучения модели, а поскольку они создают текст, который выглядит как написанный человеком.

В 1956 г. компьютерный ученый Джон Маккарти уточнил определение ИИ в отношении «машин, которые могут выполнять задачи, характерные для человеческого интеллекта». С тех пор оценки Тьюринга и Маккарти стали эталонами в отношении ИИ – оценивается поведение, похожее на проявление интеллекта, а не более глубокие философские, когнитивные или нейробиологические аспекты этого термина.

В последующие полвека машинам, как правило, не удавалось продемонстрировать подобный «интеллект». В течение десятилетий вся работа компьютеров происходила в рамках жесткого программного кода. Классические программы могли работать с большими объемами данных и выполнять сложные вычисления, но не умели распознавать изображения простых объектов или самостоятельно исправлять ошибки входных данных. Компьютер не мог воспроизвести неточное и концептуальное человеческое мышление.