Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта - Макс Тегмарк

Этот результат дает основания для оптимизма, так как все перечисленное можно обеспечить и при отсутствии работы: например, через спорт, хобби, образование или в семье, в кругу друзей, партнеров по команде, членов клуба или коммунальной группы, в школе, церкви, гуманитарной организации, политическом движении или в каком-то другом подобном предприятии. Чтобы создать процветающее общество низкой занятости, уберегая его от тенденции к саморазрушению, нам необходимо понять, каким образом мы можем способствовать развитию и расширению этих благодатных видов активности. К поискам такого понимания необходимо привлекать не только ученых-естественников и экономистов, но также психологов, социологов и педагогов. Если приложить серьезные усилия для того, чтобы обеспечить благополучие для всех, отчасти финансируя это из того богатства, которое в будущем будет создаваться благодаря AI-технологиям, то такое общество сможет процветать как никогда раньше. Как минимум, нужно сделать каждого настолько счастливым, как если бы у него была работа мечты, а если к тому же он избавится от требования, чтобы его деятельность приносила доход, то выше — только небо!

В этой главе мы исследовали вопрос, как искусственный интеллект может помочь значительно улучшить нашу жизнь в ближайшее время и как нам избежать различных опасностей на этом пути. Но как насчет долгосрочной перспективы? Остановится ли в конце концов прогресс AI-технологий из-за непреодолимых препятствий, или ученым удастся преуспеть в достижении их изначальной цели — создания универсального искусственного интеллекта на уровне человеческого? Мы видели в предыдущей главе, как законы физики позволяют фрагментам материи запоминать, вычислять и обучаться, и эти законы отнюдь не запрещают таким фрагментам однажды достичь гораздо большей разумности, чем та, которой обладают сгустки материи в наших головах. Достижимо ли это, и если да, то когда люди смогут преуспеть в создании такого сверхчеловеческого универсального AI, гораздо менее ясно. Мы видели в первой главе, что мы этого просто пока еще не знаем, потому что ведущие мировые специалисты в области искусственного интеллекта пока не пришли к единому мнению, и большинство из них дают оценки от десятилетий до столетий, а некоторые даже отрицают саму возможность. Прогнозировать сложно: вы путешествуете по неизведанным территориям, вы не знаете, сколько гор отделяет вас от места назначения. Обычно вы видите только ближайшие к вам, и нужно долго карабкаться, прежде чем вы сможете увидеть следующее препятствие.

Что же может нас ждать в ближайшей перспективе? Даже если бы мы знали наилучший из возможных способов построения универсального искусственного интеллекта на уровне человеческого с помощью сегодняшних аппаратных возможностей компьютеров, — а мы его не знаем, — нам все равно надо было бы немало сделать, чтобы обеспечить достаточную вычислительную мощность, необходимую для этого. Так какова же вычислительная мощность человеческого интеллекта, если измерять ее в битах и флопсах на языке главы 2[29]? Это крайне сложный вопрос, и ответ существенно зависит от того, как мы его поставим:

По вопросу 1 было очень много статей, и в них обычно дается ответ: порядка петафлопсов, то есть 1017 флопсов. Что примерно соответствует вычислительной мощности Sunway TaihuLight (рис. 3.7), самого быстрого суперкомпьютера в мире на 2016 год, стоимостью около $300 млн. Даже если бы мы знали, как его использовать для симуляции мозга высококвалифицированного работника, прибыль от этого могла бы случиться только при условии, что аренда TaihuLight для нас оказалась меньше, чем почасовая оплата труда работника. Но нам, вероятно, придется платить даже еще больше, потому что, как считают многие ученые, для точного воспроизведения работы мозга нам недостаточно рассматривать его как математически упрощенную модель нейронной сети из главы 2. Возможно, нам вместо этого нужно симулировать его работу на уровне отдельных молекул или даже субатомных частиц, что требует значительно большего числа флопсов.

Рис. 3.7

Sunway TaihuLight — самый быстрый суперкомпьютер в мире по состоянию на 2016 год. Как утверждается, его первичная вычислительная мощность превосходит мощность человеческого мозга.

Проще ответить на вопрос 3: я мучительно плохо умножаю 19-значные числа, и каждое такое действие потребовало бы много минут, даже если бы вы позволили мне воспользоваться карандашом и бумагой. Это сразу отправляет меня в диапазон 0,01 флопса, отъедая 19 порядков от ответа на вопрос 1! Огромное несоответствие объясняется тем, что человеческий мозг и суперкомпьютер оптимизированы под очень разные задачи. Похожие расхождения мы бы получили, пытаясь ответить на такие вопросы:

И какой же из этих двух вопросов о быстродействии поможет нам спрогнозировать будущее искусственного интеллекта? Ни тот и ни другой! Если бы мы хотели симулировать работу человеческого мозга, ответ на вопрос 1 был бы нам интересен, но чтобы понять, какой уровень быстродействия нужен для создания универсального искусственного интеллекта на уровне человеческого, нам надо ответить на вопрос, располагающийся посередине — вопрос 2. На него пока еще никто не знает ответа, но вычислительная мощность самого мозга может оказаться значительно ниже той, которая требуется для симуляции его работы, и всё обойдется дешевле, если мы либо адаптируем «софт», чтобы он лучше соответствовал современным компьютерам, или создадим «хард», больше похожий на мозг (чему будет способствовать быстрый прогресс так называемых нейроморфных чипов).

Ганс Моравец сделал оценку ответа, произведя сравнения типа «баш на баш» для вычислений, в которых и наш мозг, и современные компьютеры достаточно эффективны: некоторые виды низкоуровневой обработки изображений, которые сетчатка человека выполняет в задней части глазного яблока перед отправкой его результатов в мозг по оптическому нерву. По этой оценке репликация вычислений на сетчатке с помощью обычного компьютера потребует около миллиарда флопсов, а весь мозг делает примерно в десять тысяч раз больше вычислений, чем сетчатка (Моравец использовал соотношение объемов и количества нейронов), так что вычислительная мощность мозга около 1013 флопсов — это примерно соответствует мощности оптимизированного компьютера за $1000 в 2015 году!