Одним из решений может быть запрет на создание искусственного интеллекта с широким спектром выполняемых задач, переход к узкой специализации, заметил Стэн.
Вскоре все эксперты подтвердили решение о критериях личности и статусе големов, и У Ван вывел на экран следующий вопрос, в отличие от предыдущих, написанный от руки.
Какие этические проблемы ждут нас при таком отношении к големам?
Допустимо ли вообще создавать искусственных людей? поинтересовался падре Марко. Конечно, всё создано по воле Господа, но не является ли создание големов насилием над человеческой природой?
А является ли насилием над человеком его естественное зачатие? поинтересовалась синьора Кано. Мы же не спрашиваем мнения детей. Думаю, мы бы от младенцев при их рождении узнали много «хорошего», умей они разговаривать.
Все рассмеялись, а потом заговорил Мишка:
В создании големов есть один этический момент. Обычные дети учатся после рождения и могут хоть как-то высказать своё мнение, показать свои интересы и предпочтения. Големов учат до рождения, и это может оказаться непреднамеренной или осознанной ломкой личности, особенно в случае влияния на мозг голема для выработки у него безусловного подчинения кому бы то ни было.
Мы учим детей, подчас принуждая их к послушанию и соблюдению человеческих норм, это неизбежно, пожала плечами сеньора Кано.
Коллега говорит о том, что при формировании мозга голема в него можно заложить безусловный рефлекс подчинения, пояснил Фергюсон. Сейчас есть несколько сотен таких големов. Формально такое воздействие не является насилием, потому что внешне сходно с необходимым для формирования личности общением с родителями так мать говорит с нерождённым ещё ребёнком, но приводит к пожизненной полной зависимости голема от одного хозяина.
Всех невольно передёрнуло от слова «хозяин», и через несколько минут очень эмоциональных и однообразных высказываний такое воздействие на мозг, как и намеренное его повреждение, приравняли сразу к психическому насилию, физическому увечью и подсаживанию на наркотики. Никто не хотел брать на себя ответственность за судьбы «муравьёв».
Вопрос с дородовой стерилизацией, громко и жёстко сказал Лёшка. Его нужно решать сейчас!
Он уже давно решён! У Ван высветил на экране текст какого-то документа. В принятом ещё в начале века Римском стату́те чётко сказано, что насильственная стерилизация людей, тем более любые действия, приводящие к стерильности несовершеннолетних являются преступлением против человечности. Нерождённые големы могут рассматриваться как недоношенные и находящиеся на доращивании в медицинском боксе дети.
Мы сейчас обсуждаем мелочи, впервые за эти дни заговорил Родионыч, и все непонимающе посмотрели не него. Всё это последствия. Главный вопрос: кем будут големы и киборги? Анри уже говорил об этом, да и все вы, но никто не хочет признавать, что нужно выбрать: принять новое рабство или отказаться от такой заманчивой для многих возможности? Как бы вы ни декларировали их равенство, в реальности големов будут создавать только как рабов! Необходимо решать: как договариваться с теми, кто станет их делать и эксплуатировать? И как вписать новых рабов в общество, которое и так трещит по швам?
А зачем? вдруг раздался звонкий голос обычно робкого Мити. Зачем решать этот вопрос?
Ты о чём? озвучила всеобщее удивление Лена.
Смотрите! Митя взял стилос. Я свёл вместе все известные проблемы человечества, не только вопрос големов. И ваш рассказ, Катя, и вообще всё, что узнал. И вот что получилось.
Детский почерк заполнял экран, и вскоре все смотрели на ясную, логичную и пугающе-правдивую схему:
«Хозяин владеет роботами/големами => Робот добывает => робот обрабатывает => робот производит вещь/искусство/науку => человек получает/сразу сдаёт в утиль => робот перерабатывает вторсырьё => хозяин получает прибыль».
Какие пункты лишние? Митя взглянул на взрослых и демонстративно зачеркнул «человек». Видите? Человек тут лишний, его можно заменить даже кошкой, а польза вместо общества идёт только хозяевам роботов и големов. А если сделать так?
На экране возникла новая цепочка:
«Создаёт человек (сам или с помощью роботов) => покупает человек => пользуется человек => перерабатывает робот под управлением человека => общается в процессе производства и использования человек => стабильность и развитие общества».
Видите?
Но это же нужно менять социальный строй и полностью отказаться от всех достижений науки! возмутился кто-то. Возврат к ручному труду шаг, нет, бег назад! Мы триста лет старались избавить людей от
И пришли к тому, что имеем! зло расхохотался Родионыч. Простите. Я не социолог, я прасовец. Но вы сами все эти дни говорите: «создание големов ведёт к проблемам». И триды, и вообще вся наша общественная система ведёт к проблемам. Триста лет людей избавляли от «рабского труда для поддержания жизни», вместо живых создав механических рабов, которые теперь стали нашими хозяевами именно потому, что никто не вспомнил основного правила: «Самый зависимый и бесправный из рабов рабовладелец».
Невозможно забыть то, что уже было сделано или открыто, не сдавался англичанин. История человечества
Говорит о том, что мы постоянно забываем о сделанном! звонко от волнения сказала Лена. Механику античности забыли почти на две тысячи лет. Китайский флот уничтожили по приказу одного человека, и целая страна на столетия забыла о море. Но это крайности, нам не нужно их повторять. Не надо забывать технологии, нужно менять способ их использования! Вы все знаете об установках исконников. Если бы не совместные действия всех правительств мира, расшатывание свойств пространства-времени привело бы к глобальной катастрофе. Именно поэтому эти технологии запрещены на Земле, зато стали основой для освоения космоса!
Мы на основе установок исконников создали проект межзвёздного корабля и твёрдотелый двигатель для него, громко объявил Шери. Лена, ты о таком говоришь? Использование технологий в иной сфере?
Почти. Она быстро и немного коряво писала на экране стилосом. Есть методика быстрого создания органов для трансплантации. Есть методика залечивания серьёзных ран. Есть методика лечения неврологических заболеваний, в том числе с помощью аватаров. Разве этого мало?! Создание големов как обычных людей не имеет смысла, они выгодны только как рабы мы сто раз говорили об этом. Значит, нужно сделать так, чтобы их не делали! Вообще ни людей, ни киборгов.
Но как это сделать? Это же невозможно! поразился американец.
Экономика! вступил в разговор Мишель. Сколько сейчас големов? Психически полноценных, уже родившихся или вот-вот готовых выйти из родильных камер? Не больше двух тысяч. Мы признаём всех големов людьми со всеми правами и обязанностями, номинально не запрещаем их создавать, но требуем соблюдения таких условий, какие далеко не каждый крупный концерн может обеспечить. И жёстко контролируем их выполнение. Маленькие и любительские лаборатории не учитываем у них нет таких возможностей. Они, конечно, будут пробовать, но это уже дело конторы их нейтрализовать. А вот с уже созданными да просто дать им огромные льготы! Такие, чтобы они получали в два, три раза больше обычного человека. Никто не захочет делать големов или киборгов, если это станет невыгодным.
Но тогда големов все возненавидят! возразил Марк.
Я же говорю, сейчас их не больше двух тысяч на весь мир, и их можно принять на работу в госучреждения. Это в миллионы раз дешевле, чем разгребать то, что мы рассматриваем всё это время. И одновременно с этим влиять на общественное мнение, чтобы через сорок лет ни один нормальный человек и подумать не мог о создании искусственных личностей. Это должно восприниматься как как инцест! Работать, конечно, много придётся, но всё решаемо.
Нам этого никто не позволит! с надеждой: «а вдруг удастся?» заметил американец.
Почему? Митя удивлённо посмотрел на него. Разве мы должны спрашивать?