О том, как создать БОГа и как с ним потом быть…
Содержание:
Часть 1 1
Часть 2 4
Часть 3 7
Дмитрий Филимонов
Последний компьютер Адамса
Рисунки автора
Часть 1
I
- Я не понимаю, Андерс, не понимаю! Вы сами предложили мне эту тему, финансировали исследования, требовали от меня скорейшего решения задачи, а теперь, когда все готово, вертите задницей, как девочка из третьесортного отеля.
- Не горячитесь, Адамс. Не хамите. Спокойнее, - шеф Бюро Генеральных Программ Андерс привстал из-за огромного черного, блестящего, как смола, стола. - Не стоит так волноваться. Вы отстрелялись, а мы, - он сделал круговое движение рукой, имея в виду сидящих по восьми сторонам крестообразного стола членов совета БГП, - должны проверить мишени соответственно пунктам программы, предложенной вашей команде.
- Да идите вы!.. - Адамс обреченно махнул рукой и сел в мягкое серебристое кресло, закинув ногу на ногу.
- Ну вот, так-то лучше, - облегченно вздохнув, отметил шеф. - Нервы надо беречь, они еще пригодятся. Да… Так на чем вы остановились? - продолжил он, обращаясь к руководителю отдела Безопасности Смиту.
- На третьем пункте основных правил безопасности в робототехнике, шеф.
- Продолжайте, мы слушаем вас.
- Дело в том, господа, - Смит бросил гневный взгляд на быстро барабанящего по столу кончиками пальцев Адамса, - что одна из новинок, заложенная в предлагаемый нам супермозг, фактически обходит третий пункт, где ясно сказано: "Любой искусственно созданный разум не может работать во вред человеку". А компьютер Адамса в определенной ситуации способен не только нанести вред, но и уничтожить того или иного человека.
- Вы сошли с ума, Смит! - Адамс вскочил из кресла. - Вы бредите! Ну где, где у меня сказано об этом?!
- Правильно, Адамс, - нехотя согласился руководитель отдела Безопасности - Не сказано. Но подумайте сами: к чему приведет заложенная в супермозг функция самосохранения?
- Да ни к чему она не приведет! - раздраженно отрезал Адамс. - Просто всякие недоумки, зная об этом, не будут лезть куда не надо. А не будут лезть - и супермозг никого не тронет.
- А если все-таки тронет? - спросил шеф БГП, задумчиво покручивая золоченое электроперо.
- В задницу трахнет! - хлопнул себя по бедру Адамс. - Господа, супермозг будет управлять всей технической жизнью планеты, контролировать и прогнозировать ее. Представляете, что произойдет, если он хотя бы на мгновение отключится? Это будет равносильно катастрофе! А защитить его стопроцентно от случайностей мы с вами не можем. Это нереально. Поэтому я и заложил в него самосохранение. Он сам будет анализировать и блокировать возможные нарушения, отклонения или ошибки. Только в этом случае мы можем спать спокойно.
- И тем не менее я против, - жестко произнес Смит. - Предохраняясь от одних непредсказуемых последствий, мы сознательно допускаем другие непредсказуемые последствия.
- Ах, ты! Ох, ты! - ехидно проохал Адамс. - Мы допускаем, мы предполагаем… Ну какие такие последствия? Ну шибанет током осла, сунувшего нос куда не следует. Ну меньше станет на планете одним ослом. Но лучше одного осла потерять, чем в случае незапланированной остановки супермозга получить, скажем, взрыв энергетических запасов, что вообще приведет неизвестно к чему? Впрочем, извиняюсь, известно. И мне, и вам. А?..
Он вышел из-за стола и подошел к окну. Окно было открыто и за ним покачивались на сочно-зеленых побегах тропических деревьев большие кривоклювые птицы с ярко-красными крыльями и ультрамариновыми грудками. Одна из них слетела с ветки, уселась на подоконник напротив Адамса и, пытливо глядя на него своим круглым желтым глазом, отрывисто проговорила:
- Дай ор-решек. Дай ор-решек.
- Да иди ты… - в сердцах сплюнул Адамс.
Птица испуганно взмахнула крыльями, поднялась сантиметров на сорок над подоконником и, зависнув в воздухе, огорченно затарабанила:
- Дур-рак, дур-рак, дур-рак…
Сопровождаемый улыбками Адамс отошел от окна. Внезапно он успокоился, ему стало абсолютно наплевать - примут его работу или нет, и захотелось треснуть рюмочку чего-нибудь крепкого под красивую спокойную музыку.
- Адамс! - шеф поднялся из-за стола. - Никто не рубит ваш труд под корень. Супермозг планете необходим, мы его вам заказали и мы его примем. Но мы должны сто раз перестраховаться. Не забывайте, введение его в нашу реальность изменит всю жизнь на планете. Мы не имеем права на ошибку.
Он взял стакан с гранатовым соком, отпил пару глотков и, чмокнув от удовольствия губами, продолжил:
- Хорошо. Допустим, вы правы и супермозг, защищая себя, вреда не принесет. Но это сейчас. А после? Ведь кроме самосохранения вы заложили в него еще и самосовершенствование…
Адамс равнодушно смотрел в потолок. "Или я чего-то не понял, или у них у всех крыша поехала?" - недоумевал он.
И действительно: его команда смогла совершить то, чего никто еще не делал. Гигантский по замыслу и воплощению супермозг должен был не только управлять, контролировать и прогнозировать техническое развитие планеты, но и совершенствовать свой интеллектуальный уровень параллельно увеличению объема памяти и скорости мыслительных операций. Создав один такой компьютер, уже не нужно тратиться на разработку новых машин этого типа, на ремонт и все прочее. А с блоком самосохранения он застрахован от возможных случайностей и практически неуязвим. Это был, несомненно, переворот в робототехнике, который грозил коренным образом изменить жизнь человечества.
- Итак, господа, - продолжал шеф, - пора голосовать за… Как вы там его назвали, Адамс?
- Супермозг М-100001, система Безотказного Обеспечения Генезиса. Сокращенно - БОГ.
- Отлично! Голосуем за вашего БОГа, Адамс. Кто - за?
Адамс вытащил из пачки сигарету, закурил ее и бросил взгляд на регистрационное табло. Пятнадцать - за, один - против, один - воздержавшийся.
- Приняли, - с презрением подумал он.
В этот момент он вдруг почувствовал, что никакого удовлетворения от свершившегося факта не испытывает. Скорее, наоборот. Непонятное, неприятное чувство зашевелилось у него внутри, как будто он втайне сделал что-то плохое и вот-вот это плохое станет явным.
- Переволновался, должно быть, - вслух подумал он, выходя из зеркального офиса. - Выпить надо.
Он зашел в кафе и опустошил одну за другой три рюмки коньяку. На душе потеплело, но неприятное чувство не исчезло,
II
Адамс был молод, очень молод. Сын бедных родителей, он еще в юности понял, что подняться вверх можно только при полной самоотдаче в труде, Поэтому у него не было друзей.
Изо дня в день он читал, думал, думал, читал и снова думал. В девятнадцать лет к нему обращались за советом тридцатилетние.
Сразу после окончания университета Адамс предложил несколько небольших, но парадоксальных проектов в области разработок искусственного разума, которые принесли ему всемирную известность, хорошую должность и солидное положение.
Помимо этого он никогда не отказывался от мелких и, казалось бы, незначительных поручений, выполняя их тщательно и серьезно, чем добился уважения как среди коллег, так и вверху.
Поэтому ничего удивительного в том, что разработку сверхважнейшей программы поручили именно его команде, не было.
Проснувшись как всегда в шесть утра, Адамс сделал зарядку, принял душ, привел себя в надлежащий порядок и, просматривая за завтраком календарь текущих дел, совершенно неожиданно для себя обнаружил, что сегодня у него день рождения.
Действительно, ровно двадцать три года назад, 3 мая, в яркий и теплый день он появился на белый свет, не имея ни малейшего представления о том, сколь велики и страшны будут последствия его появления для этого самого белого света.
- Неплохо бы по этому поводу… - пробормотал он. - А заодно и принятия программы…
Он забросил грязную посуду в автомойку и, накинув плащ, вышел из дома с твердым решением отметить оба события на работе, а также перекинуться парой фраз со своим суперсозданием, к которому успел привязаться в последние дни.
Он шел по дорожке, выложенной розовым мрамором, поглядывая на буйно цветущую всеми цветами спектра разнообразную растительность парка, в центре которого располагалась основная лаборатория БГП.
На сверкающих в лучах солнца цветах сидели огромные, как блюдца, бабочки. Изредка, то там, то тут, из кустов выглядывала добродушная мордочка какого-нибудь зверька, который несколько мгновений с любопытством разглядывал идущего Адамса и затем скрывался в глубине зелени по своим неотложным делам.
Воздух был полон тонкими, нежными запахами цветущих растений. Слух ласкали изящные трели многочисленных пестреньких пташек, скользящих в тенистой вышине с ветки на ветку.
Лаборатория представляла собой гигантскую стеклянную полусферу. Проходя мимо нее или еще лучше - пролетая над ней, можно было увидеть отдельные сектора, в которых сидели служащие, и центральный сборочный зал, занимающий основную площадь лаборатории, где шли сборка и проверка изобретений.
Адамс, вежливо здороваясь со всеми встречающимися сотрудниками, прошел прямо в сборочный зал и остановился перед большим черным шаром, около двухсот метров в диаметре, неподвижно висящим в воздухе в полутора метрах от пола.
- Привет, БОГ! - мысленно сказал он, обращаясь к шару.
- Привет, создатель! - глухо ответил шар.