Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens - Джеймс Баррат

Неудивительно, что движение сингулярности часто называют «Блаженство чокнутых» (Rapture of the Geeks) — как движение оно имеет все отличительные особенности апокалиптической религии, включая ритуалы очищения, отказ от бренного человеческого тела, предвкушение вечной жизни и неоспоримого (в некоторой степени) харизматического лидера. Я всей душой согласен с идеей сингуляритариев о том, что ИИ — самое важное, о чем нужно размышлять в настоящий момент. Но когда дело доходит до разговоров о бессмертии, я пасую. Мечты о вечной жизни сильно искажают окружающее. Слишком многие сингуляритарии верят, что интенсивное взаимопроникновение технологий не приведет к катастрофам, которых мы могли бы ожидать от каждой из них в отдельности, или к комплексным катастрофам, которые мы тоже могли бы предвидеть, но даст вместо этого совершенно противоположный результат. Оно спасет человечество от того, чего мы больше всего боимся. От смерти.

Но как можно компетентно оценить технологии? Нужно ли, и если нужно, то как регулировать их развитие, если вы уверены, что те же самые технологии позволят вам жить вечно? Даже самые рационально мыслящие люди в мире не в состоянии трезво оценивать собственную религию. И, как говорит ученый Уильям Грасси, если обсуждается преображение немногих избранных и жизнь вечная, то не о религии ли идет речь?

В отличие от вариантов развития событий по Гуду и Винджу, сингулярность Курцвейла формируется с помощью трех технологий, приближающихся к точке конвергенции, — генной инженерии, нанотехнологий и робототехники — достаточно широкий термин, который он использует для обозначения искусственного интеллекта. Кроме того, в отличие от Гуда и Винджа, Курцвейл предложил объединенную теорию технологической эволюции; которая, как всякая уважающая себя научная теория, пытается объяснить наблюдаемые явления и делает предсказания относительно явлений будущих. Эта теория получила название Закона прогрессирующей отдачи.

Во-первых, Курцвейл предполагает, что эволюционные процессы развиваются по гладкой экспоненциальной кривой и что техническое развитие — один из таких эволюционных процессов. Как и биологическая эволюция, техника развивает у себя некую способность, а затем использует ее для развития и выхода на следующую ступень. У человека, к примеру, большой мозг и большой палец, которые позволили освоить изготовление орудий и крепкий хват, необходимый для их эффективного использования. Например, печатный пресс повлиял на технологию книжного переплета, повышение грамотности, развитие университетов и на множество других вещей. Паровой двигатель стимулировал промышленную революцию и множество изобретений.

Благодаря привычке опираться на предыдущие достижения сначала технология развивается медленно, но затем крутизна кривой ее роста увеличивается, и в конце концов она выстреливает почти вертикально. Согласно графикам и диаграммам, которые так любит Курцвейл, мы в настоящее время входим в наиболее критический период технологического развития — ту самую круто восходящую часть экспоненциальной кривой, ее «колено». Отсюда можно двигаться только вверх, и двигаться быстро.

Курцвейл разработал свой Закон прогрессирующей отдачи для описания эволюции любого процесса, в котором присутствуют информационные закономерности. Он применяет этот закон к биологии, где преимущества получают более сложные и упорядоченные молекулы. Но еще убедительнее этот закон используется для предсказания скорости изменения информационных технологий, включая компьютеры, цифровые камеры, Интернет, облачные вычисления, оборудование для медицинской диагностики и лечения и многое другое — любую технику, связанную с хранением и извлечением информации.

Курцвейл отмечает, что Закон прогрессирующей отдачи — это, по существу, экономическая теория. Прогрессирующий отклик подпитывается инновациями, конкуренцией, размерами рынка — характеристиками производителей и самого рынка. На компьютерном рынке эффект описывается законом Мура — еще одной экономической теорией, замаскированной под техническую и сформулированной впервые в 1965 г. одним из основателей Intel Гордоном Муром.

Закон Мура гласит, что число транзисторов, которые можно разместить на интегральной схеме для построения микропроцессора, удваивается каждые полтора года. Транзистор — это переключатель с двумя устойчивыми положениями, способный также усиливать электрический заряд. Увеличение количества транзисторов означает большую скорость обработки информации и более быстрые компьютеры. Закон Мура означает, что компьютеры будут становиться все меньше, мощнее и дешевле с достаточно высокой и стабильной скоростью. Это происходит не потому, что закон Мура — настоящий закон природы, как закон всемирного тяготения или второй закон термодинамики. Это происходит потому, что потребитель и рынок стимулируют конкуренцию разработчиков компьютерных чипов и заставляют производить все более компактные, быстрые и дешевые компьютеры, смартфоны, камеры, принтеры, солнечные батареи и, очень скоро, 3D-принтеры. И все это развивается на базе технологий прошлого. В 1971 г. на одном кристалле помещалось 2300 транзисторов. После сорока лет, или двадцати удвоений, их уже было 2600000 000. А с этими транзисторами, более двух миллионов которых может разместиться на точке в конце этого предложения, пришла и скорость.

Приведем наглядный пример. Джек Донгарра, исследователь Национальной лаборатории Оук-Ридж (штат Теннесси) и член команды, отслеживающей скорость суперкомпьютеров, определил, что планшет-бестселлер iPad 2 фирмы Apple работает столь же быстро, как суперкомпьютер примерно 1985 г. Cray 2. Более того, iPad, работающий со скоростью более 1,5 гигафлопа (один гигафлоп соответствует одному миллиарду математических операций в секунду), еще в 1994 г. вошел бы в список 500 самых быстрых суперкомпьютеров мира.

В 1994 г. кто мог бы представить, что меньше чем через поколение суперкомпьютер размером меньше книжки станет уже настолько дешевым, что его будут давать школьникам? Мало того, кто бы поверил, что он способен будет без всяких проводов подключить пользователя к хранилищу знаний человечества? Только Курцвейл оказался настолько смелым: он не делал предсказаний о суперкомпьютерах, но сумел предвидеть взрывной рост интернет-технологий.

В информационных технологиях каждый прорыв дает толчок новому развитию и приближает следующий прорыв — кривая, о которой мы говорили, карабкается вверх все круче. Поэтому, если разговор заходит об iPad 2, то вопрос не в том, чего мы можем ожидать в следующие 15 лет; говорить нужно о том, что произойдет в течение небольшого отрезка времени. Примерно к 2020 г., по оценке Курцвейла, у нас появятся портативные компьютеры, соответствующие человеческому мозгу по вычислительной мощности, но не по интеллекту.