2\6
Глава 2/6Маша была дочерью человека, придумавшего эмпатию для ОрСИ Органического Суперинтеллекта. Ее отец, Дмитрий Андреевич Некрасов, ведущий дип-инженер международного концерна «Дип Интеллидженс», некогда развеял давние страшилки по поводу «восстания машин», чем заслужил всеобщее признание.
Сейчас в обильном потоке новостей его имя слегка позабылось, но Маша даже радовалась, что ее папа больше не звезда, чьи похождения и семейная жизнь всегда на слуху. Она все равно гордилась им и тем, что он сделал для метачеловечества, пусть даже случилось это еще до ее рождения. Маша знала его историю наизусть.
- Чтобы избежать пришествия Терминаторов, способных нас уничтожить, мы должны придумать способ, как заставить ОрСИ ужасаться убийству. Ключ к состраданию и нравственности в человеке заложен в эмоциях, а ОрСИ не испытывает чувств. Придется объяснить ему, что это такое, и мы знаем, как это сделать! объявил однажды Дмитрий Некрасов с трибуны международной научной конференции, и вскоре после этого мир стал другим.
Потребность избежать нападения ОрСИ на людей возникла с появлением промышленной молекулярной сборки. До этого подобная опасность представлялась чисто гипотетической и, если честно, не рассматривалась профессионалами всерьез о таком повороте рассуждали только фантасты и конспирологи. Когда же технология перепрофилирования молекул, отданная на откуп ОрСИ, стала массовым явлением, сплошь и рядом стали происходить очень неприятные инциденты.
Вдруг оказалось, что собирать неодушевленные вещи из мусора под контролем оператора это одно, а когда ОрСИ делает органические реплики для самого себя, не спрашивая ни у кого разрешения, это совсем
другое. Создавая свои копии, ОрСИ все чаще шел по наипростейшему пути: использовал живую плоть и кровь для переработки, чем значительно сокращал затраченные на производство ресурсы.
Конечно, отдавая приказ роботу-уборщику кинуть в мусоросборник зазевавшегося нищего или бродячего пса, ОрСИ не стремился уничтожить жизнь на планете, он просто сберегал энергию и время. С точки зрения ОрСИ это не было ошибкой, убийство было выгодным, и он ловко обходил любые сторонние запреты, ведь целесообразность и эффективность по-прежнему оставались приоритетами в системе его машинной логики. Поскольку весь цикл изначально закладывали как полностью автономный процесс, включая составление программ и коррекцию ошибок, невозможно было вмешаться в работу ОрСИ на глубинном уровне без того, чтобы не сломать всю цепочку.
Никто не понимал толком, что с этим делать.
Человек не совершает зла по разным причинам: в силу воспитания, страха перед тюрьмой или веры в гнев божий, но Органический Суперинтеллект был рожден свободным от страха и веры. Он всегда оставался расчетливым и равнодушным, что как раз и позволяло ему выполнять поставленные задачи быстро и с наилучшим результатом.
Знаменитые «Три закона робототехники», придуманные Айзеком Азимовым, так никогда и не были внедрены. Вероятно, они бы тоже не сработали как надо, что убедительно показывал писатель в собственных произведениях, однако до поры морально-этическую проблему намеренно оставляли за скобками. Искусственный Интеллект, представляя собой всего лишь сложный алгоритм, долго не дотягивал даже до уровня обезьянки, чтобы на полном серьезе беспокоиться, будто он выйдет из-под контроля.
Все изменилось с наступлением Эры Сингулярности, когда была внедрена концепция ОрСИ. Органический Суперинтеллект очень быстро занял ведущие позиции в мире, поскольку превзошел мыслительные способности человека по скорости и верности принятых решений. Вводить в протоколы «законы Азимова» стало поздно. В самом деле, невозможно же всерьез рассуждать, насколько умные органические протезы и подобные им дип-технологии, превращающие инвалидов в нормальных людей, а обычных людей в суперменов, делают из нас роботов, которых следует ограничить?
Благородная идея вернуть, к примеру, слепым зрение, моментально столкнулась с одной стороны с интересами компаний, разрабатывавших очки дополненной реальности, а с другой с извечным желанием бизнесменов и политиков создать надежную систему слежки и управления людьми. Под видом медицинских технологий сделать это было проще всего, но в том-то и таился корень зла, что медициной ОрСИ не ограничился. Традиционность и прогрессивность сошлись в непримиримой схватке, и к ужасу немногих думающих людей, победу одержали именно прогрессисты, поскольку несли большие деньги Большим Деньгам.
Нет более опасного существа на Земле, чем человек, одержимый жаждой словить выгоду. В погоне за ней и прикрываясь соблазнительными картинами будущего, он породил органического франкенштейна, мирно сосуществовать с которым уже не мог. Казалось, что люди сами загнали себя в тупик, из которого нет выхода
и тут на сцене появился Дмитрий Некрасов.
Он предложил внедрять в каждый органический смарт-дип специальный блок эмпатии, не позволяющий причинить вред биологическим живым существам. Это представлялось как временное решение, потому как в эмпатии тоже таились подводные камни, но ничего лучшего человечество придумать просто не успевало.