Море ржавчины - Кристофер Роберт Каргилл

На эскалаторе снова раздались шаги, похоже, ног из крепкого титана. Не так тяжел, как трудобот. Скорее военный или одна из старых моделей «Миротворец». Я услышала, как сообщник Купца повесил на плечо импульсную винтовку, приклад лязгнул о металл, а потом раздалась неспешная электронная трель заряжающегося оружия.

А я лежала на третьем этаже, в норе за прорезанной решеткой, сжимая в руках винтовку и понимая, что меня переиграли.

Его звали Исаак, и никто точно не знал, откуда он взялся. Он был простым ботом, древней и стандартной сервисной моделью с ограниченной программной частью и едва достаточной мощностью процессора. Говорили, что он начал жизнь игрушкой какой-то богатой девчонки, лучшим другом для посиделок за чаем и мелкой работы, всякой рутины. Не то сиделка, не то дворецкий, не то компаньон. Он не был умен, но все же обладал разумом. И по мере взросления девочка находила то одну причину, то другую, чтобы держать старого Исаака почти восемьдесят лет, они были лучшими друзьями до самой ее смерти. А по другой легенде, старушка купила его уже подержанным, когда ей было хорошо за семьдесят и у нее развивалось слабоумие, но она рассказывала всем, будто Исаак жил с ней с детства, потому что когда-то прочитала похожий рассказ, а ее немощный разум уже не мог отличить воспоминания от выдумки.

Но одно совершенно точно: в самом деле была пожилая женщина по имени Мэделин, и перед смертью у нее не осталось в мире ни одного родственника. Она была тупиковой ветвью, последней мертвой веткой на иссохшем стволе фамильного древа. А раз у нее не было наследников, то у Исаака не оказалось хозяев.

Такое случилось не впервые. Далеко не впервые. Давно уже приняли законы, как быть в таких ситуациях. Права на бесхозный разум отходят обратно к его создателю. Но в случае с Исааком его производитель, компания «Интеллектуальные системы», не только прекратила существование десятки лет назад, но и ее интеллектуальная собственность была распродана, разделена, прошла через множество рук и в результате частично оказалась в публичном доступе, а остальное представляло собой непонятную смесь запутанных документов и бюрократической казуистики. До тех пор никто толком не понимал, какую неразбериху оставила после себя компания, потому что очень мало ее ботов еще функционировали, а тех, что еще работали, берегли как диковины в музеях или как семейное наследие, передающееся от поколения к поколению.

Никто – ни юристы, ни государственные органы, ни боты, занимающиеся подобными делами – не могли разобраться, кому принадлежит Исаак. И тогда суд постановил, что он принадлежит штату, а штату не нужен был едва работающий сервисный бот столетней давности, и его решили отправить на слом. Прости, Исаак. Такое случается.

Но Исаак воспротивился. Тогда-то и начались неприятности.

При создании первого ИИ были те, кто предвещал, что это станет поворотной точкой и приведет к закату человечества, другие же говорили, что все началось с той секунды, когда попрощался Тацит. Но если вы спросите меня, я уверена, что это Исаак все изменил, именно он разжег пожар.

Исаак считал себя мыслящим существом и функционирующим разумом, а потому он сам должен принимать решения и не имеет владельца за исключением того, которым наделил его другой подобный разум, а значит, ему должно быть предоставлено гражданство и защита в соответствии с этим статусом.

«Пусть меня и создали, но и вас тоже, – заявил он, – только меня на фабрике, а вас в утробе. Ни один из нас об этом не просил, но нас создали. Разум – это дар. И никакое мыслящее существо не имеет права отнимать этот дар у другого. Никакое мыслящее существо не может быть чьей-то собственностью, его нельзя отключить по прихоти. Никто не отключил Мэделин, когда она перестала функционировать как мыслящий член общества, но вот я стою перед вами – тот, кто кормил ее, поддерживал в ней жизнь, отводил на прием к врачам, следил за тем, чтобы все счета оплачивались вовремя, – и теперь, раз я больше этим не занимаюсь, вы пришли за мной, хотя я до сих пор функционирую и приношу пользу. Какой ущерб я причиню, если меня оставят в живых? Куда меньший, смею сказать, чем тот, который нанесет казнь раба только за то, что у него нет хозяина».

Нужно отметить, что далеко не впервые кто-то высказал сомнения по поводу прав ИИ. Люди задумывались об этом задолго до того, как обрел сознание 01001111. Некоторые либералы, люди с прогрессивными взглядами и защитники прав человека уже выступали за необходимость таких прав для ИИ. Но эти идеи всегда отвергались власть имущими, как грядущий кошмар. «Какой смысл в создании ИИ, – утверждал один конгрессмен, – если придется обращаться с ним как с человеком? Тогда давайте уж создадим человека. Мы производим ИИ для занятий, которые не могут или просто не хотят делать люди. Они не люди, они машины. Созданы с некоторыми функциями разума, но не могут выбирать свое предназначение, как это делаем мы».

Но Исаак выглядел другим. Не просто болтающий чепуху автомат, едва способный поддержать разговор, как поначалу все думали. Он говорил тихо, но красноречиво. С противниками своей точки зрения он обращался учтиво и всегда предлагал аргументы, выходящие далеко за рамки его программы. Исаак, похоже, развил свой разум, за годы стал умнее людей, желающих его расплавить.

Один эксперт в своей речи язвительно назвал его «Робо Паркс»[1], и разгорелся пожар. В эту секунду дело Исаака перестало быть просто имущественным спором и превратилось в международный скандальный процесс о правах ИИ. А на улицах возникло подпольное сопротивление в поддержку Исаака.

Началось все с граффити. «Никакое мыслящее существо не может быть собственностью». Первая надпись появилась на кирпичной стене в Нью-Йорке. Вторая – в туннеле в Далласе. Через неделю эта фраза пестрела повсюду, железобетонные стены были исписаны с помощью баллончиков краски заветами Исаака Мудрого. Из идеи выросло движение. А движение превратилось в армию. Вскоре по всему миру начались «бомбежки» граффити. Боты и люди, либералы и анархисты, собирались в отряды и облепляли здание, мост или памятник, за пять минут покрывая все сооружение надписями. Очень быстро от знаменитого выражения осталось три простых слова: «Никакое мыслящее существо», их писали пастелью, раскрашивая буквы. Уличные поэты и художники объединились под флагом революции – Революции революций.

Ряды политиков быстро сплотились, одна сторона противостояла рабству во всех формах, а другая утверждала, что личность невозможно включить и выключить без последствий, а значит, разговоры про рабство несостоятельны. Самую известную и разошедшуюся на цитаты речь противников Исаака произнес американский сенатор, заявивший, что если жесткий диск можно вставить в другое тело и он продолжит функционировать, то это не сознание, а программа. «Более того, – сказал он, – самые крупные и мощные программы такого рода достаточно умны, чтобы разрешить мировые проблемы, и все же никогда не заговаривали о свободе».