Магелланово Облако - Станислав Лем

От столика, за которым тесным кружком сидела молодежь, махая рукой, меня звал Нильс Ирьола.

Я подошел к столику. Около него собралась большая группа людей. Молодежь окружила трех специалистов по кибернетике. Среди них своим атлетическим сложением выделялся руководитель коллектива Тембхара. Я попал в разгар самой горячей дискуссии и услышал заключительную фразу стройного юноши:

— Почему же нельзя использовать автоматы при высадке на неизвестную планету? Говорят, что первые ракеты на такую планету поведут люди.

— Да, к сожалению, это так, — ответил Тембхара. — Тебе ведь известна поговорка: автоматы точны, но ограниченны, люди же хотя и не точны, но не страдают ограниченностью! Дело в том, что для автоматов характерна так называемая «направленная узость оценки обстановки». Автомат всегда несколько односторонен, потому что создан для выполнения определенных заданий. А на чужой планете он может встретиться с незнакомыми ему существами и попасть в такое положение, которое нельзя заранее предусмотреть. Если послать туда автоматы, они могут подвести нас и вызвать своими действиями опасную обстановку.

— Что же такое они могут натворить? Я не понимаю.

— Они могут поступить, как психически больной человек, — сказал Тембхара. — Чтобы объяснить это, приведу пример из старого учебника кибернетики. Этот пример имеет лишь историческое значение, но может служить хорошей иллюстрацией к тому, о чем я говорю. Это, собственно говоря, сказка. У одного человека квартира была завалена старыми глобусами и негодными кувшинами. Он поручил автомату убрать весь этот хлам, сказав следующее: «Выбрось отсюда все шарообразные предметы». Послушный автомат, слишком дословно поняв приказ, вынес весь хлам, а заодно сорвал с шеи голову этого человека: он расценивал ее лишь как шарообразный предмет, который тоже следует выбросить.

— Но это чепуха!

— Этого не могло случиться!

— Автомат не может причинить вред человеку! — хором воскликнули окружающие.

— Конечно, эта история не могла произойти в действительности, и я привел ее лишь как яркий пример того, что можно было бы назвать «недоразумением» между человеком и автоматом. Для нас многое подразумевается само собой, а для автомата нет ничего очевидного, кроме того, что вложил в него его конструктор. Наши автоматы, например, снабжены приспособлениями, предотвращающими возможность их самоуничтожения, и предохранителями, которые делают невозможным нанесение какого-либо вреда человеку. Но в совершенно новой, не предусмотренной их конструктором обстановке, в условиях чужой планеты, они могут наделать много зла. Помимо этого, есть еще одно затруднение этического порядка: нам, наверное, не понравилось бы, если бы обитатели другой планеты прислали на Землю группу машин с задачей определить, стоит ли завязывать с людьми добрососедские отношения. — Тембхара усмехнулся, его зубы сверкнули.

— Скажи, профессор, — спросила какая-то девушка, — это ты спроектировал гироматы?

— Да. Вернее, я принимал участие в проектировании некоторых из них.

— А профессор Аверроес говорил на лекции, что такой гиромат строится вообще без проекта. Как это возможно? Объясни нам, если можешь.

— Попробую… — Тембхара задумался. — Лучше всего, может быть, это удастся мне на конкретном примере. Наше бюро создало перед вылетом с Земли последний большой астрогиромат для Симеизской обсерватории. Это гигант особого назначения: он умеет создавать «математические модели звезд». Ему сообщают величины и факты, полученные в астрономических обсерваториях, а он на их основе может воспроизвести всю жизнь звезды с момента ее возникновения до гибели, воссоздавая таким образом ее историю, форму, размеры, температуру, все происходящие внутри этой звезды атомные реакции, ее орбиту, влияние на нее других небесных тел и ее влияние на эти тела, — словом, может проследить за эволюцией любой звезды в Космосе с абсолютной точностью в исключительно короткий срок. Миллиард лет существования звезды машина «переживает» за какие-нибудь двадцать секунд. Конечно, такой гиромат не смог бы построить ни один человек в мире. На то, чтобы произвести необходимые расчеты и сделать чертежи проектов, потребовалось бы не менее тысячи лет, а может быть, и еще больше. Можно использовать счетные машины, но и это было бы неправильно, поскольку имеется несравненно более простой способ. Он состоит в следующем: прежде всего мы строим систему автоматов, которую называем базисной; этой системе ставим общую задачу постройки гиромата, ставим условия, определяем сферу его действия и другие данные. Все это называется «направляющей установкой технологической программы гиромата». Затем мы снабжаем базисные автоматы строительным материалом и пускаем их в ход. Через несколько месяцев гиромат готов. Естественно, мы, проектировщики, не знаем ничего о тех тысячах и миллионах монтажных операций, анализах и расчетах, какие были произведены базисными автоматами. И не только не знаем, но и совершенно не интересуемся этим. Так же, как нас совершенно не интересует в деталях конструкция самого гиромата: он есть, действует, выполняет все наши приказы, а больше нам ничего не нужно.

— Знаешь, профессор, — сказала стоявшая рядом со мной Майя Молетич, — я думаю, что тысячу лет назад инженер-конструктор назвал бы сумасшедшим человека, который сказал бы, что в будущем люди будут строить самые сложные конструкции без проектов.

— Не думаю. Я попытался бы разъяснить принцип такого строительства на понятном для него примере. Тогда применялись первые примитивные счетные машины. Так вот, инженера, который, скажем, перемножал цифры при помощи такой машины, совершенно не интересовали промежуточные этапы этого арифметического действия. Ему нужен был лишь конечный результат — и ничего больше. Уже тогда стал применяться — правда, в зародыше — принцип, который можно сформулировать следующим образом: «Следует избегать бесполезных знаний».

Таким бесполезным было бы детальное знакомство со всеми соединениями проводов в астрогиромате. Если бы кто-нибудь захотел составить список этих соединений, ему пришлось бы заполнить тысячи томов или трионов. Такая работа не имела бы никакого смысла и не была бы нужна никому.

Наша техническая культура изобилует такой массой приборов, что, если бы мы хотели все изучить и знать так же детально, как люди знали раньше, например, конструкцию часов, мы были бы затоплены океаном совершенно ненужных описаний. Если бы не автоматизация, человечество уже тысячу лет назад вступило бы на путь все более узкой специализации каждой личности. Люди превратились бы в муравьев, и каждый выполнял бы лишь мелкую часть общей работы, совершенно не представляя себе всего ее объема в целом. А автоматы не только продолжают человеческую мысль, как рычаги усиливают силу руки человека, но и разгружают человека от бремени никому не нужных однообразных исследований, наблюдений, систематизации. Они оставляют лишь самое важное, неповторимое, для чего нужны изобретательность, находчивость, сообразительность, интуиция, и таким образом помогают создать новый тип человека, который, как главнокомандующий в древности, намечает главные направления атаки на неисследованные районы, не отягощая свой ум балластом мелочей.