Калибан - Айзек Азимов

Не вполне уверенная, что не стоит прямо сейчас развернуться и сбежать отсюда через запасной выход, Фреда поднялась и прошла к кафедре. Хэнто Грег отступил к столику и сел рядом с Йоменом.

Она оказалась совсем одна. Глядя на колышущееся море лиц, Фреда думала, что вся эта затея – сущее сумасшествие. Но она уже стояла на кафедре, и не оставалось ничего, кроме как начать лекцию. Пути назад не было.

Фреда откашлялась и заговорила.

– Благодарю вас, друзья! Сегодня я хочу представить вашему вниманию анализ Трех Законов роботехники. Но прежде чем мы углубимся в оценку собственно Законов и их взаимоотношений, я хотела бы провести небольшой экскурс в историю.

На прошлой лекции я говорила, что люди ставят роботов на низшую социальную ступень и что презрение и бестолковое использование роботов унижает и развращает и тех, и других. И о том, что, перекладывая на роботов все, даже самые простые обязанности, мы, люди, тем самым теряем способность к самостоятельным действиям. Есть нечто такое, что объединяет все эти вопросы в один, что красной нитью проходит через все, о чем я говорила.

Это, леди и джентльмены, Три Закона роботехники. Без них не обходится ничего, что касается роботов.

Фреда ненадолго замолчала, скользнула взглядом по залу и натолкнулась на взгляд Альвара Крэша, сидевшего в первом ряду. Фреда удивилась – он смотрел мрачно, почти злобно. Что же случилось? Крэш – человек рассудительный. Отчего же он так злится? Узнал что-то новое? От такой догадки Фреда почувствовала, что у нее начинают подгибаться колени. Нельзя сейчас об этом думать! Не сейчас! Надо продолжать лекцию.

– Прошлую лекцию я начала с вопроса: «Что для нас роботы?» Сейчас же я спрашиваю: «Что такое Три Закона роботехники? Для чего они нужны?» Когда я впервые задала этот вопрос себе самой, он меня поразил. Это почти то же самое, что спрашивать: «Что такое люди?» или «Для чего мы живем?» Эти вопросы затрагивают такие глубинные основы жизни, что на них практически нет вразумительного ответа. Люди – это люди. Жизнь – это жизнь. Какие еще нужны объяснения? И можно понимать это как нам угодно. Но в отношении роботов, господа, все обстоит несколько иначе. Еще раз напомню – и сами роботы, и Три Закона созданы людьми, и созданы, несомненно, с определенной целью. Поэтому мы можем ответить, для чего нужны Три Закона. Давайте же разберем этот вопрос!

Каждый из Трех Законов основан на нескольких важных правилах, очевидных или скрытых. Все исходные правила, на которых основываются Три Закона, вытекают из общечеловеческих моральных принципов. Это очевидно, хотя о математических выкладках относительно того, как Законы роботехники заложены в позитронный мозг, вряд ли кто из вас хотел бы сейчас послушать. Признаться, я сама очень долго не могла в этом разобраться.

В ответ на это признание в зале засмеялись. Хорошо. Они по-прежнему хотят ее слушать. Фреда глянула в свои заметки, немного нервно отхлебнула из стакана, и продолжила:

– Достаточно сказать, что эта технология приводит к результатам, которые от нее требовались. Таким образом, Три Закона означают примерно следующее. Первое – роботы не должны быть опасными. Второе – роботов можно использовать для любых нужд. И третье – они должны быть экономными, насколько это возможно.

Дальнейшие математические расчеты, если говорить терминами социологов, показывают, что такая иерархия требований типична для моральных норм любого человеческого общества. Если извлечь краткие выводы из правил поведения в идеальном обществе, мы получим ряд законов, каждый из которых вступает в противоречие с менее значимым. Получится примерно следующее: не вреди, помогай другим, заботься о собственной сохранности. Короче, Три Закона заключают в себе основные моральные установки людей, идеал, к которому они стремились во все времена, но которого так и не достигли. Все это звучит вполне обнадеживающе, вполне убедительно. Но на самом деле не все так просто.

Во-первых, нельзя забывать, что Три Закона заложены в саму сущность позитронного мозга как математические аксиомы, безусловные истины, без каких бы то ни было полутонов и условностей. Но жизнь полна условностей, случаев, когда жесткие рамки не всегда приводят к лучшим результатам. В реальной жизни зачастую важнее личная оценка ситуации.

Во-вторых, у нас, людей, законов гораздо больше, чем три. Вернемся снова к оценке Трех Законов. Они являются очень хорошим приближением к правилам поведения высокоморального человека. Но только приближением! Они слишком незыблемы, слишком просты! Они не охватывают всех случаев жизни, они не годятся для сложных и неординарных ситуаций, когда в первую очередь важно решение, принятое на основе личной оценки положения. Ни одно существо, строго следующее Трем Законам, не способно разобраться со всеми возможными ситуациями, которые могут встретиться в жизни. Другими словами, Три Закона лишают роботов возможности существовать как свободные личности. Несложный подсчет показывает, что роботы, действуя в рамках Трех Законов, но без жесткого контроля со стороны человека, быстро выйдут из строя, если попробуют вести себя в сложных ситуациях как люди. То есть из-за Трех Законов роботы не способны справиться без посторонней помощи со всем, с чем могут столкнуться в обществе, населенном не одними только роботами.

У них нет понятия об условностях жизни. Не ведая тысяч дополнительных законов и обычаев, правил поведения, моральных норм, которыми руководствуются люди в той или иной ситуации, роботы не способны принимать решения и выносить самостоятельные суждения, как мы, люди.

Представьте, что преступник стреляет в полицейского. Несомненно, полицейский станет защищаться и, не задумываясь, предпримет даже опасные для жизни преступника меры. Общественные нормы морали не запрещают – и даже рекомендуют – полицейскому ранить или убить опасного преступника. Потому что для общества жизнь полицейского, который защищает это самое общество, намного важнее, чем жизнь преступника. А теперь представьте, что рядом с полицейским оказался робот. Робот, несомненно, станет защищать полицейского от преступника – но он так же рьяно бросится защищать и преступника от полицейского! Робот, конечно же, постарается не дать полицейскому выстрелить в злодея. Потому что он обязан не допустить, чтобы человеку был причинен вред – неважно, какому человеку. Робот помешает полицейскому стрелять, загородив собой преступника, и даст злодею возможность удрать. Или попытается обезоружить обоих. Робот загородит собой от выстрелов обоих, несмотря на то что погибнет при этом сам. Несмотря на то, что после его гибели перестрелка все равно возобновится!

Собственно, у такой ситуации может быть множество исходов, и самых разных. Если рядом окажется робот, полицейский скорее всего не задержит преступника. Из-за этого робота может случиться и кое-что похуже – могут погибнуть и полицейский, и преступник, и робот. Или только полицейский и робот. Или только робот – но преступнику удастся скрыться. А может случиться и так, что погибнут полицейский и преступник, а робот уцелеет до тех пор, пока его не доконает противоречие Первого и Второго Законов. Короче, вмешательство робота в подобной ситуации привело бы к несчастью.