Фрайди. Бездна - Роберт Хайнлайн

– Ну разумеется, я мог бы это сделать. И когда я сотворил бы это и если б мне разрешили его клонировать, все пилоты могли бы спокойненько отправляться удить рыбу до конца своих дней. Но это был бы не ИЧ, а искусственное существо. Если бы мне пришлось создавать организм, способный обеспечить полную безопасность при пилотировании, я никогда не стал бы ограничивать себя таким потолком – соблюдать абсолютную его идентичность обычному человеку…

– Не надо этого делать!

Мужчины уставились на меня с изумлением, а Жанет – с любопытством. Я же… пожалела, что не прикусила себе язык вовремя.

– Почему нет? – поинтересовался Джордж.

– Ну… Потому что я никогда бы не села на такой корабль. Гораздо безопаснее я чувствую себя с Жаном.

– Спасибо тебе, Мардж, – улыбнулся Жан, – но… Ты ведь слышала, что сказал Джордж. Речь идет о пилоте, который будет делать все лучше, чем я. Это вполне возможно. И так оно, черт возьми, и будет. Как шахтеров вытеснили кобольды – так же заменят и нас. Я не обязан кричать «ура» по этому поводу, но я не могу закрыть на это глаза.

– Что ж… Скажи, Джордж, ты работал когда-нибудь с компьютером, наделенным интеллектом?

– Конечно, Марджори. Искусственный интеллект – та область, которая очень тесно переплетается с моей.

– Хорошо. Тогда ты должен быть в курсе, что множество раз специалисты по искусственному интеллекту заявляли, что они совершили прорыв и вплотную подошли к созданию компьютера, наделенного сознанием. Но каждый раз такой компьютер сходил с ума.

– Да. Это печально.

– Нет. Неизбежно. Это всегда будет кончаться именно так. Компьютер может стать полностью разумным – какие сомнения?! Доведите его до уровня сложности, идентичного человеческому мозгу, и ему придется стать разумным. Но тогда он осознает, что он – не человек. Потом он обнаружит, что никогда не станет человеком и все, что он может, – это сидеть и подчиняться человеческим приказам… И тогда он сходит с ума. – Я пожала плечами. – Это неразрешимая дилемма. Он не может быть человеком, и никогда не сможет. Может быть, Жан и не сумеет спасти своих пассажиров, но он постарается. Искусственное же создание, не будучи человеком и не испытывая никакой лояльности по отношению к человеческим существам, может запросто разбить корабль… Просто так! Просто потому, что он устал от несправедливого обращения с ним. Нет, Джордж, лично я полечу с Жаном, а не с твоим ИС, который в конце концов научится ненавидеть весь род людской.

– Только не с моим ИС, дорогая, – мягко поправил меня Джордж. – Разве ты не заметила, в каком наклонении я все время обсуждал этот проект?

– Нет. Мне кажется…

– В сослагательном. Потому что ты не сказала мне сейчас ничего нового. Я никогда над этим не работал и не стану работать. Я способен создать такого пилота. Но я не способен встроить в этого ИС те этические установки, которое есть у Жана.

– Возможно, мне стоит на предстоящей встрече потребовать, чтобы любой пилот, будь он ИЧ или ИС, проходил этический тест, – задумчиво произнес Жан.

– Какой тест, Жан? Я не знаю, как внедрить в эмбрион этические понятия, а Мардж только что убедительно объяснила, почему в данном случае не помогут никакие тренировки и обучения. Но так или иначе, каким тестом ты это обнаружишь?

Джордж повернулся ко мне:

– В студенческие годы я прочитал несколько классических рассказов о роботах-гуманоидах… Да, очаровательные рассказы, и многие из них были основаны на так называемых законах робототехники. Ключевая идея была в том, что этих роботов создавали с заложенным в них правилом – не причинять вреда человеку своим действием или бездействием. Прекрасная основа для фантазии, но… Как это сделать на практике? Что может заставить разумный организм нечеловеческого происхождения, электронный или органический, быть лояльным по отношению к людям? Я не знаю, как это сделать. Специалисты по искусственному интеллекту тоже не в курсе. – Джордж усмехнулся. – Разумность можно определить как уровень мышления, на котором разум вопрошает: «А что мне с этого будет?» Ну-с, Мардж, – продолжал он, – как насчет продажи мне одного прекрасного свежего яичка? Видимо, мне нужно рассказать тебе, что тебе с этого будет.

– Не слушай его, – вмешалась Жанет, – он положит тебя на холодный стол и станет вторгаться в лоно любви без малейших романтических намерений. Я-то знаю, я ведь уже трижды имела глупость поддаться на его уговоры. И он даже не заплатил мне.

– Как же я мог тебе заплатить, если у нас с тобой все общее? Марджори, дорогая моя леди, стол совершенно не холодный, он мягкий, и ты можешь в это время читать, смотреть в терминал, разговаривать или делать все, что тебе заблагорассудится. Теперь эта процедура уже не та, что была сто лет назад, когда лезли через брюшную полость и нередко повреждали яичники. Если ты…

– Погоди! – прервал его Жан. – Тут, кажется, что-то новенькое. – Он включил звук.

– «…Совет за выживание. События, происшедшие за последние двенадцать часов, есть предупреждение богатым и власть имущим о том, что время их сочтено и справедливость должна восторжествовать. Убийства и прочие наглядные уроки продолжатся до тех пор, пока не будут выполнены наши законные требования. Оставайтесь на местах и не выключайте местные каналы экстренных сообщений…»

Даже те из вас, кто слишком молод, чтобы самим слышать это объявление, наверняка читали о нем и проходили в школах. Но все равно я должна кратко пересказать его, чтобы объяснить потом, как и почему повлияло оно на меня и на мою странную жизнь. Так называемый «Совет за выживание» объявил себя тайным обществом «простых людей», посвятивших себя искоренению бесчисленных несправедливостей, царящих на Земле и на всех планетах, куда только ступала нога человека. Ради этого они готовы были отдать свои жизни.

Но для начала они запланировали отдать за это дело немало жизней других людей. Они заявили, что составили списки всех сильных мира сего на нашей планете и за ее пределами: свой список для каждого территориального государства и вдобавок один общий список мировых лидеров. Имена в этих списках и были их мишенями. «Совет» взял на себя ответственность за все уже совершенные убийства и пообещал убивать все больше, и больше, и больше, до тех пор, пока их требования не будут выполнены.

Перечислив имена мировых лидеров, голос с терминала приступил к списку для Британской Канады. По выражениям лиц и глубокомысленным кивкам моих хозяев я видела, что они согласны с большинством кандидатур. Заместитель премьер-министра был в этом списке, а вот сама премьер – к моему и, вероятно, к еще большему ее удивлению – в списке отсутствовала. Как бы вы чувствовали себя, если бы потратили всю свою жизнь на политику, прошли весь путь до самой вершины, а потом появились бы какие-нибудь умники и объявили, что вы не настолько важны, чтобы вас убивать? Это все равно как если бы вас закопал ваш собственный кот!

Далее голос объявил, что в ближайшие десять дней новых убийств не будет. Если по истечении этого срока положение не исправится, каждый десятый из этого списка будет уничтожен. Жертвы будут выбраны случайным образом, но не будут названы. Они просто будут убиты. Еще через десять дней – опять каждый десятый. И так до тех пор, пока выжившие не создадут Утопию.