ИИ-2041. Десять образов нашего будущего - Кай-фу Ли

Согласитесь, это непаханое поле для адвокатов, навязывающих свои услуги жертвам несчастных случаев.

Нам остро необходимы законы, которые защитят людей от небезопасного программного обеспечения, но при этом должны быть гарантии, что технический прогресс не остановится из-за непомерных штрафов для тех, кто обеспечивает его софтом.

И наконец, последнее. Сообщения о дорожно-транспортных происшествиях довольно редко попадают в заголовки национальных газет. Но стоило в 2018 году беспилотному автомобилю Uber задавить пешехода в Фениксе, новость не сходила со страниц национальной прессы несколько дней. Система Uber, скорее всего, действительно виновата, но оправданно ли подобное внимание медиа ко всем смертельным случаям в будущем?

Если в прессе начнут кричать о каждой смерти, связанной с автономным транспортом, клеймить позором и пригвождать заголовками молодую индустрию, она, возможно погибнет на взлете — а ведь со временем, при благоприятном развитии, она, возможно, позволит спасти миллионы жизней.

Все описанные проблемы способны посеять в обществе страх, спровоцировать принятие излишне консервативных законов и существенно замедлить темпы перехода людей на автономный транспорт. Разумеется, это абсолютно обоснованные и логичные опасения, но если постепенно повышать осведомленность людей, поощрять дискуссии, достигать решений, то мы окажемся готовы к этим технологиям, как только они станут готовы для нас.

Я убежден: в долгосрочной перспективе автономные транспортные средства уровня 5 принесут человечеству неоценимую пользу в самых разных аспектах нашего существования, хотя нам и придется за это платить. Юный Чамал в конце рассказа «Святой возница» тоже это понял.

Глава 7. Квантовый геноцид

Нам не нужен ИИ, чтобы нас уничтожить, мы и сами большие задиры.

«Из машины» (фильм, 2014)

Все вещи переплетены друг с другом; святая связь объединяет их.

Марк Аврелий

ИСТОРИЯ, РАССКАЗАННАЯ ЭНДИ ДУДАКОМ

Примечание Кай-Фу: Прорывные, революционные технологии могут оказаться для нас и огнем Прометея, и ящиком Пандоры — в зависимости от того, как их использовать, во зло или во благо. Гениальный физик из истории «Квантовый геноцид» сорвался из-за личной трагедии и использовал два мощных технологических прорыва во зло — он вступил на путь невиданной доселе мести всему миру. В комментарии я подробнее опишу, возможно, величайший технологический прорыв, который вполне имеет шансы произойти к 2041 году. Квантовые компьютеры могут дать мощнейший толчок и искусственному интеллекту, и вычислениям. Я также опишу автономное оружие с элементами ИИ — это наибольшая опасность, которая грозит нам со стороны искусственного интеллекта. Потенциально — это реальная угроза существованию человечества.

Исландия, Кеблавик

25 августа 2041 года

Местное время 21:38

Летние ночи в Исландии бледны и холодны, как живот утопленника.

В Кеблавике, городе-спутнике Рейкьявика, находится самый защищенный на европейском континенте дата-центр Hrosshvalur. В этой настоящей крепости для хранения данных работают тысячи серверов. Энергию для дата-центра производит геотермальная электростанция, а охлаждение обеспечивают арктические ветра.

Пятьсот ведущих компаний Европы доверили Hrosshvalur свои информационные ресурсы. С материком и с Северной Америкой объект связан двенадцатью артериями — высокопроизводительными оптоволоконными кабелями. До Нью-Йорка информация долетает по ним всего за шестьдесят миллисекунд.

Выбросы углекислого газа в помещениях были почти нулевыми. Робин это казалось чудом.

На пляже в юго-западной части залива Фахсафлоуи лежало старое рыбацкое судно. Зияющая в обшивке дыра делала его похожим на кита с распоротым брюхом. Через эту «рану» в трюм были протянуты толстые черные кабели. Они терялись в темноте, которая изредка вспыхивала сине-белыми огоньками.

В проржавевшем корпусе судна хакеры и разместили свою базу — тут было такое оборудование, о котором многим и мечтать не приходится. Ребята провели здесь полгода, пользуясь дармовыми местными ресурсами: геотермальной энергией, холодным воздухом и избыточной вычислительной мощностью квантовых компьютеров из дата-центра. Сегодня должно было свершиться чудо, ради которого все и затевалось.

Уилл — в этом трио он играл роль спеца по «железу» — колдовал над клавиатурой. Он завернулся в видавшую виды куртку и здорово смахивал на бурого медведя.

— Поверить не могу, что мы дождались, — клацнул он зубами то ли от холода, то ли от возбуждения. — Сколько, говорите, биткойнов у Сатоси[84]?

Ли, 16-летний вундеркинд, откликнулся, не отрываясь от мелькавших перед глазами строк кода.

— Не менее двухсот шестидесяти миллиардов, — тон безразличный, как будто не про кучу долларов шла речь, — а может, и все пятьсот, смотря какой трейдинговой стратегии следовать.

— Бабло — зло, не позволяйте ему трахать вам голову, — в губе Робин запрыгал пирсинг. — Помните, парни, — удача и слава!

В хакерском мире давно поговаривали, что Сатоси Накамото, придумавший биткойн, реально крут и успел намайнить не меньше миллиона.

Считалось, что криптовалюту он держал в цифровом кошельке на основе стандарта P2PK (Pay-to-Public-Key)[85], то есть с использованием открытого ключа. Если это правда, то современным старателям было просто грех не прибрать к рукам сокровища Сатоси.

Майнеры давно отказались от P2PK, потому что каждая биткойн-транзакция, инициированная с использованием этого стандарта, делала ее открытый ключ видимым для всей сети. Более поздние стандарты — например, P2PKH (Pay-to-Public-Key-Hash) — защищены гораздо лучше, по крайней мере, теоретически. Они показывают только хеш открытого ключа, но не сам ключ.

Алгоритм, разработанный Питером Шором в 1994 году (и получивший его имя), позволяет справиться и с закрытым ключом, решив «проблему дискретного логарифма для эллиптических кривых с помощью 16-разрядного открытого ключа». Теоретически он дает возможность подделать цифровую подпись и стырить активы, но практически все упирается в вычислительные мощности.

До изобретения квантовых компьютеров даже самому быстрому суперкомпьютеру, чтобы вычислить закрытый ключ на основании известного открытого, требовалось около 6,5 × 1017 лет. Это в 50 миллионов раз дольше, чем осталось жить вселенной — число, совершенно непостижимое для человеческого разума.

Робин до костей пробрала впервые возникшая мысль о глубине пропасти между теорией и реальными возможностями. Казалось, какое-то божество намеренно производило вычисления, выходящие за рамки человеческого понимания, чтобы продемонстрировать нам ничтожность нашей цивилизации.

Это случилось, когда Робин было 16 и ее еще звали Умит Эльбакян. Она была чертовски талантлива. Поэтому по приколу вскрывала плохо защищенные онлайн-счета богатеев и раздавала награбленное бедным, как Робин Гуд. Но однажды пришло анонимное письмо с прикрепленной видеозаписью — девушке показали всех ее родных.

В мейле говорилось: Умит больше никогда не увидит родственников, если не согласится работать на Vinciguerra Group.

Это была известная и крайне серьезная криминальная организация.

Умит потерла в сети информацию, которая могла бы навести на ее след (она очень надеялась, что всю или хотя бы почти всю), взяла ник «Робин» и начала работать на Vinciguerra.

Так девушка переселилась в закрытый мир расхитителей «цифровых гробниц», добывавших сокровища из-под руин