– Без шансов, – тут же высказался Олег. – Это того не стоит.
– Это того стоило. Конечно, с газопроводом ничего не вышло. Профсоюзы начали стачку и мелкие диверсии, роботы выходили из строя раз в десять чаще, чем было запланировано, а кончилось это тем, что газопровод банально взорвали, свалив вину на наших роботов. Но согласитесь, идея была красивая?
– Красивая, – кивнул Олег.
– Именно поэтому мы начали заниматься роботами и стали одной из ведущих роботопромышленных компаний во всем мире. Попробуйте сформулировать концепцию выданного вам задания, не особо углубляясь в частности.
В тот день они ещё долго проговорили, а уже на следующее утро у Олега появилась идея, которую он и обдумывал ближайшие дни. Красивая идея, правда, не без погрешностей. И когда отпущенный срок истек, Олег был готов предложить концепцию требуемого алгоритма.
Они собрались в кабинете Березина – Олег, Ирвин К. Доулинг, Березин и ещё несколько специалистов, заинтересованных в реализации проекта. Олег беспомощно огляделся в поисках кафедры, не обнаружил её, глубоко вздохнул и прокашлялся.
– Я хочу предложить вам концепцию алгоритмизации трех законов Азимова в приложении к профильному развитию программы ГРО.
Публика притихла.
– Начну с основополагающей проблемы, стоящей перед нами. Каким образом совместить самообучающийся псевдоинтеллект и некоторые базовые законы, служащие отправной точкой для создания управляемой роботехники? Я предлагаю разделить блок программного управления роботом на базовый блок псевдоинтеллекта и некую служебную зону, предназначенную для администрирования деятельности робота. Для упрощения терминологии назовем эти разделы сознанием и подсознанием. Информация от сенсоров будет поступать к модулю «подсознание» и после некоторой обработки передаваться псевдоинтеллекту. После того как роботом будет принято то или иное решение, команда на осуществление деятельности будет передаваться «подсознанию», которое проверит это действие на соответствие законам Азимова. Если предлагаемое роботом действие не противоречит законам Азимова, оно будет выполнено, в противном случае «подсознание» заблокирует действие робота.
– Можно вопрос? – со стула поднялся Ирвин К. Доулинг. – У нас были подобные наработки, они назывались проект «совесть». Единственное отличие – информация от сенсоров сразу поступала в зону псевдоинтеллекта, минуя «подсознание». Это может значительно ускорить работу.
– Мистер Доулинг, разрешите узнать, почему этот проект не был доведен до конца?
Ирвин К. Доулинг вопросительно уставился на Олега, словно пытаясь понять, чего от него хочет этот выскочка. Потом медленно произнес:
– Мы не смогли создать описательную часть законов Азимова.
– А я смог, – спокойно сказал Олег. – Потрудитесь сначала выслушать доклад, прежде чем давать комментарии.
Ирвин К. Доулинг уселся на своё место, а Олег внимательно обвел взглядом присутствующих.
– Итак, приступим, собственно, к концепции алгоритмизации законов Азимова. Первый закон гласит: «робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен какой-либо вред». Как доказал в своих произведениях классик, вторая часть этого утверждения по существу равна первой. Ситуация из Азимова: робот, не способный действием причинить вред человеку, но способный сделать это бездействием, решил убить человека. Робот берёт большой камень, поднимается на крышу дома и, когда человек проходит внизу, бросает камень ему на голову. Сил и возможностей робота хватит, чтобы остановить камень в полете, собственно, изначально он и собирается так сделать, не причинив человеку вреда. Первый закон не нарушен. Но во время полёта камня робот меняет своё решение. Он решает не спасать человека, и тот умирает.
– Нам известен этот парадокс, – ровным голосом сообщил Березин.
– В таком случае, я собираюсь его опровергнуть, – улыбнулся Олег.
По залу прокатился гул изумления.
– Существует ситуация, в которой робот даже с облегченным первым законом не способен умышленно причинить вред человеку. Это когда робот не знает о существовании человека. Механизм реализации этого действия таков. Подсознание получает информацию об окружающем мире и анализирует её на предмет наличия там человека. Существует подпрограмма, на основании семидесяти трех показателей определяющая человека. Псевдоинтеллект будет получать данные только о тех объектах, про которые подпрограмма сказала, что это «не человек». А все данные об объектах «человек» заносятся в отдельный буфер, и каждое действие робота «подсознание» проверяет на предмет нанесения вреда жизнедеятельности человека. Первый закон Азимова реализован.
– Кхм-кхм, интересная трактовка, – улыбнулся Березин. – Но если робот не знает о существовании человека, то как вы намерены реализовать второй закон?
– Ключевое слово, – ответил Олег. – Когда человек произносит определенный ключ, «подсознание» на него реагирует и передает псевдоинтеллекту устойчивое желание выполнить просьбу человека. Алгоритмизацию же третьего закона мистер Доулинг сообщил неделю назад. «Подсознание» просчитывает, как скоро будет нарушено функционирование робота и, если этот срок превышает гарантию, то игнорирует причиняемый роботу вред. Мистер Доулинг, теперь вы поняли, чем моя концепция отличается от проекта «совесть»?
– Полагаю, он понял, – ответил за Доулинга Березин. – И горит желанием продолжить сотрудничество с нами в течение следующих десяти лет.
Спустя полгода первая модель робота с псевдоинтеллектом прошла полевые испытания. Программное обеспечение работало без сбоев, робот надежно контролировался законами Азимова. В самом конце испытания Ирвин К. Доулинг, проверяя возможности псевдоинтеллекта, произнес ключевое слово:
– Человек.
Робот повернулся в сторону Доулинга и застыл, ожидая приказа.
– Скажи мне, кто я такой?
Робот на секунду задумался, потом произнес два слова:
– Ты Бог.
На воскресенье Ирвин К. Доулинг взял отгул.
– На пикник собрался? – спросил его Березин, подняв голову.
– В церковь. К баптистам.
– Ты же не верил в Бога? – удивился Березин.
– Теперь верю, – сообщил Доулинг. – Если при реализации законов Азимова мы пришли к концепции Бога, почему этого не мог сделать кто-нибудь другой? Тот, кто создал людей.
Игорь Книга. Небо не для всех
Пальто цвета высохших водорослей сидело на нём как на огородном пугале. Старик поглядывал на небо, на озеро, чесал затылок и кашлял. Несколько раз доставал пачку сигарет – но не прикуривал, что только подтверждало подозрения Артура Эллисона.
Неделю назад кто-то ночью украл старенький бензиновый электрогенератор. Эллисон попытался обратиться в полицию – безуспешно. Хитроватый сержант сообщил, что таких краж ежедневно десятки. Народ приезжает в Шотландию отдохнуть, развеяться, попить виски, а на пропажу всяких мелочей внимания обращает мало. Потерпевший попытался возразить, мол, электрогенератор не мелочь, но инспектор и слушать не стал.
Знающие люди посоветовали нанять охранника или завести большую овчарку. Про охрану и думать не стоило: средства истощились, последние две недели гений самоучка питался купленными на распродаже военного имущества сухпайками. Вариант с овчаркой тоже не устраивал – аллергия на собак и вообще всех животных. Как только кошка или собака подходили ближе пяти футов, на Артура нападал хронический чих.
Старик засунул руки в карманы и замурлыкал заезженный местными радиостанциями хит. У Эллисона возникло желание устроить незваному гостю взбучку, но боязнь потерять клиента сдерживала. Сначала бизнес, остальное потом.
Клиент, владелец парка развлекательных аттракционов Барковский приехал посмотреть плод многолетних трудов изобретателя. Артур надеялся продать своё детище, вылезти из долгов и продолжить исследования.
– Как настоящий, – вывел из глубин размышлений клиент.
Эллисон натянул на лицо улыбку:
– Да-да, сэр. Внешность я скопировал со старинных гравюр – от настоящего не отличишь, если они существовали.