Бэйли переменил тему разговора:
Вот что, Гладия. Сейчас я должен поговорить с Либигом, потом я снова свяжусь с вами.
ЭЛИА БЭЙЛИ ВСТУПАЕТ В СПОР С РОБОТЕХНИКОМ
В установлении контакта с Либигом была некоторая задержка, и Бэйли, почувствовав голод, приказал роботу подать сандвичи и молоко. Сандвичи были в фабричной упаковке, молоков пластиковом контейнере. Бэйли, решив соблюдать осторожность, перед едой внимательно осмотрел печать на упаковке. Затем он медленно надкусил бутерброд и отпил глоток молока. Как будто все было в порядке Но, подумал он мрачно, существуют яды без всякого запаха и вкуса, яды замедленного действия. Он отмахнулся от неприятных мыслей и приступил к еде. До сих пор, думал он, убийство или попытки убийства совершались весьма примитивными способами: удар по голове, отравленная стрела К нему приблизился робот.
Правитель доктор Либиг сказал, господин, чтобы вы вызвали его завтра. Сегодня он занят важными делами.
Бэйли вскочил так, что стул с грохотом покатился по полу.
Скажи этому типу!.. заорал он громовым голосом, но сразу осекся. Какой смысл кричать на робота? Передай твоему господину, заговорил Бэйли спокойно, что я занят расследованием убийства его соотечественника и коллеги. Передай ему, что мне некогда ждать, пока он закончит свои дела. Передай ему также, что если в течение пяти минут он не появится передо мной на экране, то я сяду на самолет и меньше чем через полчаса нанесу ему личный визит. У меня есть на это специальное разрешение. Ты понял меня, парень? Личный визит, так и скажи.
Робот удалился, а Бэйли обратился к прерванной еде. Пять минут еще не истекло, а на Бэйли с экрана гневно взирал сам Либиг.
Он был худощавым человеком со странным отсутствующим и в то же время напряженным выражением темных глаз. Правое веко у него подергивалось в нервном тике. Сейчас его глаза сверкали, а лицо дрожало от негодования.
Это выземлянин? спросил он.
Я полицейский инспектор класса С-7. Меня зовут Элиа Бэйли. Прибыл с Земли для расследования обстоятельств убийства правителя Рикэна Дельмара. А как ваше имя?
Ядоктор Джотан Либиг. Почему вы помешали мне работать?
Я хочу задать вам несколько вопросов, доктор Либиг. Скажите, вы были близким другом покойного Рикэна Дельмара?
Рука Либига вдруг сжалась в кулак, и он поспешно встал со своего места. Пройдясь по комнате, он остановился и медленно, раздельно промолвил:
Вы находитесь на Солярии против моей воли. Мне не о чем с вами говорить. Немедленно прервать контакт, обратился он к невидимому роботу.
Нет, погодите. Бэйли повысил голос. Вы думаете, я шутил, когда грозил вам личной встречей? Я явлюсь к вам и заставлю вас отвечать на мои вопросы.
Выгрязное животное! вскричал спейсер, его темные глаза метали молнии.
Пусть так, но я выполню свою угрозу.
О Великая Галактика! Если только вы посмеете явиться в мое имение, я
Убьете меня? поднял брови Бэйли. Интересно, вы часто угрожаете убийством?
Я ничего подобного не сказал.
Вот так-то лучше. А теперь поговорим о деле. Мы и так потратили много времени зря. Вы были тесно связаны по работе с покойным Дельмаром?
Голова солярианина опустилась, а плечи поникли. Но через мгновенье он снова взглянул на землянина, и было видно, что он полностью взял себя в руки и даже бесцветно улыбался.
Да, в достаточной мере.
Дельмар, кажется, интересовался новыми моделями роботов?
Да.
Какими именно?
А вы понимаете что-либо в роботехнике?
Нет. Постарайтесь объяснить популярно
Сомневаюсь, что сумею.
Попытайтесь. Например, я знаю, что Дельмар хотел создать модели роботов, которые умели бы наказывать провинившихся детей. Что это означает?
Либиг презрительно поднял брови и сухо ответил:
Говоря просто, без деталей, это означает, что следует усилить сигнал, управляющий реакцией на контуре
Непонятно, прервал его Бэйли.
В целом это означает, что должно быть проведено некоторое ослабление Первого Закона роботехники.
Почему? Ведь ребенка приучают к дисциплине для его же собственного блага в будущем.
Ах, в будущем!.. Либиг выпрямился, его глаза блеснули. Вы думаете, это так просто. Как вы полагаете, много ли найдется людей, согласных претерпеть даже незначительные неудобства для своего блага в будущем, а? Либиг говорил со страстью. Видимо, тема увлекла его, и он забыл о своем собеседнике. Знаете ли вы, сколько трудов надо положить на то, чтобы внушить ребенкуто, что вкусно сейчас, означает боль в животе завтра, и наоборот. А вы хотите, чтобы робот осознал это? Задача состоит в том, чтобы научиться противодействовать разрушению позитронного мозга, которое имеет место, если робот причиняет какую-нибудь неприятность или боль человеческому существу. Возможно, при этом придется пожертвовать и другими качествами робота. Мы далеко еще не достигли вершин роботехники. Мы не умеем делать универсальных роботов, снабженных целым набором различных взаимозаменяемых конечностей, могущих выполнять все виды работот изготовления ювелирных изделий до поднятия тяжестей. А наши космические корабли! До сих пор ими управляют люди. Роботический мозг, находящийся в тисках трех законов, не может правильно прореагировать на все возможные неожиданности, которые могут встретиться в космосе или на других обитаемых Мирах.
Значит, пока вам еще не удалось создать таких роботов? с интересом спросил Бэйли.
Нет, пока я еще не решил этой проблемы. А если не сумел я, то вряд ли сумеет кто-нибудь другой во Вселенной.
Доктор Либиг, начал Бэйли, и голос его звучал совершенно ровно, я должен предупредить вас, что собираюсь серьезно заняться проблемами роботехники. И я попрошу вас оказать мне помощь.
Либиг яростно замотал головой. Нервное подергивание века стало еще заметнее, когда он заговорил.
Вы должны понять, что изучение роботехникидлительный процесс. А у меня совершенно нет времени.
И все же вам придется подучить меня. Что касается времени, то целесообразнее, как мне кажется, проводить наши занятия в непосредственной близости друг от друга. Яземлянин, и мне легче понимать и усваивать при личном общении.
Вкусы землянина меня не касаются. Личные встречи абсолютно исключены. Вся фигура Либига, даже его голос выражали крайнюю степень нервного напряжения.
Мне кажется, вы перемените свое мнение после того, как узнаете, о чем именно я хотел бы проконсультироваться у вас.
Ничто на свете не изменит моего мнения, упрямо сжимая губы, повторил роботехник.
Вы так думаете? Так вот что я вам скажу! Я считаю, что в вашей работе по усовершенствованию позитронного мозга Первый Закон роботехники намеренно искажается.
Либиг нервно вскочил.
О Великая Галактика! Искажается! Но зачем? Вы просто сумасшедший! вскричал он.
Зачем? А вот зачем Для того, чтобы, голос детектива звучал несколько торжественно, для того, чтобы скрыть тот факт, что робот в состоянии совершить убийство.
ЭЛИА БЭЙЛИ ПОЛУЧАЕТ НОВЫЕ СВЕДЕНИЯ
На лице Либига появилось некое подобие улыбки, похожее на гримасу.
Не говорите такой чепухи, землянин, сказал он спокойно, никогда так не говорите. Потеря доверия к роботам означала бы катастрофу для человечества.
Либиг говорил так, как будто он читал нотацию избалованному ребенку. Но за его внешним спокойствием скрывались ярость и гнев, которые он, очевидно, опасался обрушить на землянина. Помолчав, он добавил:
Вы знакомы с историей роботехники?
Немного.
Знаете ли вы, что развитие роботехники началось с комплекса недоверия? Люди не доверяли роботам, боялись их. Роботехника была чуть ли не подпольной наукой. Затем были разработаны Три Закона роботехники, и постепенно начал исчезать страх перед роботами. Но даже и тогда на вашей планете роботехника не получила должного развития. Первые спейсеры покинули Землю главным образом для того, чтобы получить возможность создать такое общество, где роботы избавят человека от необходимости повседневно трудиться. Но страх перед роботами еще не исчез окончательно в сердцах людей. И этот страх может снова вернуться.
Поэтому вы, роботехник, пытаетесь скрыть от людей некоторые факты? Например, то, что Первый Закон роботы могут понимать по-разному?
Вы ненормальны, а все ваши рассуждения просто бессмысленны.
Ну что ж, может быть, мы обсудим все проблемы несколько подробнее при личной встрече?
Худое лицо Либига исказилось.
Нет, ни за что.
В таком случае, прощайте, доктор Либиг. Я думаю, что другие спейсеры окажутся сговорчивей и внимательно выслушают меня.
Стойте, о Великая Галактика. Подождите, говорю вам! в волнении воскликнул солярианин.
Личная встреча, а?
Либиг поднял обе руки кверху, затем беспомощно уронил их. Он полузакрыл глаза, как будто прислушиваясь к чему-то, происходящему в нем.
Согласны? настойчиво переспросил землянин.
Либиг глубоко вздохнул и покачал головой.
Не могу, сдавленно проговорил он, не могу, делайте, что хотите. Он закрыл лицо трясущимися руками и отвернулся от Бэйли.
С минуту Бэйли наблюдал за ним, а потом спокойно промолвил:
Ну, что ж, в таком случае давайте побеседуем так.
Хорошо, но извините меня, я вернусь через несколько минут, прошептал солярианин.
Когда Бэйли возвратился в помещение, где он беседовал с Либигом, он увидел по-прежнему пустую комнату и стул, на котором ранее сидел роботехник. Его самого еще не было, однако ждать пришлось недолго. Через несколько мгновений появился Либиг и фокусировка переместилась на него.
Сейчас он выглядел совершенно иначе. Его волосы были гладко причесаны, на нем был другой костюм из красивой переливающейся ткани.
Видимо, великий доктор Либиг сумел взять себя в руки,подумал Бэйли.
Итак, что вы хотели узнать относительно Первого Закона? ровным голосом спросил спейсер.
Нас никто не услышит?
Нет, я позаботился об этом. Бэйли кивнул.
Разрешите, я процитирую Первый Закон.
Едва ли я нуждаюсь в этом.
Я знаю, но все же мне хотелось бы повторить его. Робот не смеет делать ничего, что может причинить вред человеческому существу, а также своей пассивностью допустить, чтобы человеку был причинен какой-либо вред.
Ну, и что же?
Когда я прибыл на Солярию, меня поместили в закрытую машину и повезли к месту моего назначения. Так как яземлянин и плохо переношу вид открытого пространства, то
Я знаю, нетерпеливо прервал солярианин, но при чем тут
Вы, возможно, и знаете, в свою очередь прервал его детектив, но робот, который вел машину, не знал. Я приказал поднять верх машины, и он сразу же повиновался. Второй Закон: Робот обязан точно и быстро повиноваться приказанию человека. Конечно, мне стало нехорошо, и я пришел в себя только после того, как верх машины снова был опущен. Разве при этом робот не причинил мне вреда?
По вашему же приказанию, отпарировал роботехник.
Разрешите мне процитировать Второй Закон полностью. Робот обязан точно и быстро повиноваться приказам, полученным от человеческих существ, за исключением тех случаев, когда подобные приказы не вступают в противоречие с Первым Законом. Следовательно, в моем случае робот не должен был выполнить приказ.
Чепуха! Робот не располагал сведениями о Либиг слегка запнулся.
Бэйли наклонился вперед, его глаза блеснули.
Ага! А теперь попробуем воспроизвести Первый Закон в его правильном виде. Робот ни при каких обстоятельствах не смеет делать ничего, что может, насколько ему известно, причинить вред человеческому существу, или своей пассивностью допустить, чтобы человеческому существу был причинен какой-либо вред.
Но это само собой разумеется.
Далеко не всегда. Обычные люди, например, у вас на Солярии слабо разбираются в роботехнике и умеют лишь командовать роботами. Иначе они давно бы поняли, что роботы могут нарушить Первый Закон и причинить любые бедствия. По крайней мере, если ими будет руководить преступный ум.
Либиг побледнел.
Сумасшествие, безумие, в волнении прошептал он.
Видите ли, Бэйли не смотрел сейчас на своего собеседника, он внимательно изучал кончики своих пальцев, я полагаю, что робот обязан выполнить любой приказ, если, по его разумению, этот приказ не может принести вред человеческому существу, не так ли?
Да, разумеется.
Хорошо. А другой робот обязан сделать то же, получив столь же невинное и безвредное, с его точки зрения, поручение, правильно?
Ну?
А что если два приказа, каждый из которых в отдельности совершенно невинен, вместе образуют преступление?
Что такое? Лицо Либига приобрело землистый оттенок.
Я хотел бы услышать мнение специалиста, невозмутимо продолжал Элиа Бэйли, мой случай, конечно, гипотетический. Предположим, некий человек говорит роботу: налей немного этой жидкости в стакан с водой, который находится там-то. Жидкость совершенно безвредна, но мне нужно знать ее действие на воду. Потом вода будет вылита. После того, как ты это сделаешь, забудь о своем поступке.
Либиг молчал.
Если вы прикажете роботу добавить в стакан с водой таинственную жидкость, продолжал Бэйли, и затем предложить эту воду человеку, Первый Закон заставит робота воспротивиться: какова природа этой жидкости? Не причинит ли она вреда человеку? И даже после вашего объяснения робот не решится предложить человеку воду с добавленной в нее неизвестной жидкостью. Но ему ясно сказановоду пить никто не будет. Первый Закон здесь ни при чем. Разве робот не послушается приказа?
Либиг все еще молчал, его глаза сверкали, веко нервно подергивалось.
Теперь рассуждаем далее. Другой робот, не зная, что проделано с водой, спокойно предлагает ее человеку, после чего тот умирает.
Нет! закричал Либиг. Нет!
А почему нет? Каждое из данных действий само по себе совершенно невинно. Только вместе они приводят к убийству. Вы отрицаете, что подобная вещь может произойти?