Барибал был? спросил Виктор.
Да, барибал.
Верю. У нас так бурые к людям выходят, подачку просят. Давно запретили и устраивать помойки рядом с рабочими посёлками, и подкармливать медвежат, а всё равно кто-то да и прикормит пестуна, вздохнул Виктор, неосознанно подстраиваясь под манеру речи собеседника. Потом для всех беда, если медведь к людям привыкнет. Ваш Фрам хороший пёс.
Хитрый только, непонятно усмехнулся индеец. По зиме я в лесу люблю на лыжах ходить. На ваших, русских, широких. У меня в предках русские были, ещё до того, как вы нам Аляску продали. Я и русский потому учить стал, и собаку русскую завёл. И лыжи ваши охотничьи выписал. Хорошо по снегу ходить. И в лесу зимой хорошо. Целый день ходить можно. Но когда обратно в хижину возвращаешься, тяжело. Лыжи словно свинцовые. Иду, еле ноги передвигаю. И думаю, как там Фрам? Совсем, наверное, устал: то впереди бежал, а теперь за спиной плетётся. Оглядываюсь, а он
Индеец сделал паузу, подготавливая слушателей, и закончил:
Он не идёт. Он всеми лапами на лыжи встал и едет. А я и себя, и его везу!
Мальчишки звонко рассмеялись, взрослые просто заулыбались, представив хитрого усталого пса.
Вы о свинцовых лыжах говорили, улыбнулся собеседнику Виктор. А я другое вспомнил. Я только работать на заводе начинал, учеником ещё. Сборочные линии программируемые, да и триды уже появились. Но была и мастерская со старинными ручными станками на них редкие детали делали, по спецзаказу. Мы там любили работать, если время было. И бригада подобралась весёлая, парни любили подшутить. И вот один из наших коробку пластиковую под свинец покрасил. Несёт, согнулся весь от «тяжести». И на нашу программистку прямиком. Да так с надрывом: «Уйди, уроню сейчас!» Программистка девчонка мелкая, метр с кепкой. Но как увидела, что он свинцовую чушку на неё ронять собрался, так с места на шкаф запрыгнула, двухметровый. Жаль, видеокамер рядом не было. Как мы её потом снимали! Она, оказывается, ещё и высоты боялась.
Рассказ Виктора слушали все. Учёные, политики и священники знали многое. Но вот такие рабочие байки, да и вообще общение с простым инженером было для них редкостью, возможно, даже большей, чем встреча с медведем.
>*<
Когда утром все расселись за столом, У Ван кивнул представителю США, который со вчерашнего дня ожидал разрешения высказаться.
Вчера мы обсуждали вопросы киборгизации големов, и вы доказывали, что это невозможно. Но есть ещё один путь! эмоционально заговорил американец. Почему все вы держитесь за представление, что мозг будет обладать человеческой личностью? Он уже другое существо, не связанное с телом, никогда его не знавшее. Вы же сами говорили, что мозг пластичен. Значит, он приспособится к иному существованию, поймёт сигналы имплантов. Зато человек, вернее, постчеловек тогда обретёт недоступные до сих пор возможности: замену тела, пользование аватарами, огромную силу и скорость. Да и нормально контролировать технику сможет. Вспомните жалобы господина Капустина на планшет.
В зале раздались смешки все уже знали об «этой скотине», да и сами часто страдали от чувствительной к внешнему воздействию «умной» техники.
И окажется катастрофически зависимым от заводов, источников электроэнергии, ремонтных мастерских, да и уязвимым для постороннего влияния! раздражённо возразила Катя. Вы можете сказать: сколько в поместье роботов слуг или охранников?
Э-э Американец замялся. Я, кажется, ни одного не видел.
Верно! хмуро улыбнулся ему сидевший рядом с Катей Мишель. Ни одного робота, ни одного дрона, ни одной автономной камеры, не контролируемой человеком! Знаете, почему?
Не любите прогресс? усмехнулся американец.
Нет, не поэтому. Для взлома всей автоматической системы охраны нужен, в идеале, один специалист, а для подкупа одного человека несколько профессионалов. В центре знали об этой уязвимости, поэтому во всех филиалах была именно живая охрана, хотя они и пользовались дронами и программами управления ловушками. И присутствующие здесь могут вам рассказать, в чём разница, когда ты противостоишь даже самой совершенной технике, или человеку. И большинство големов созданы без вживления имплантов в мозг: заказчики хотели безграничной верности, которую невозможно вызвать ни одним имплантом, а вот превратить голема с имплантами в «управляемую мину» может даже очень посредственный хакер. Импланты сделают киборга не сверхсуществом, а потенциальной марионеткой, чьи действия даже не зависят от его желания.
Вопрос не только в потенциальной зависимости киборга от постороннего воздействия, заговорил У Ван. Благодарю коллег за работу и вынужден просить разрешения взять слово на правах обычного докладчика. Господин Дюбуа, на время передаю вам свои полномочия руководителя заседания. Вы позволите?
Мишель молча кивнул.
Спасибо. Я занимался вопросами искусственного интеллекта. Выводы моей научной группы применимы и к обсуждаемой нами проблеме. Сейчас мы рассматриваем, по сути, создание сильного искусственного интеллекта, то есть личности в широком смысле слова. Такая личность не равна программе: она осознаёт мир, взаимодействует с ним по определённым нормам не только объективным, логическим, но субъективным, эмоциональным.
Эмоции совершенно не обязательны для разумного существа, влез американец. Есть множество примеров, когда люди не обладали эмоциями и при этом являлись развитыми личностями.
Позвольте продолжить! Создавая искусственную личность, мы неизбежно опираемся на наше собственное представление о ней.
Мы создаём их, как Бог нас по собственному образу и подобию, вставил отец Иоасаф.
Скорее это мы создаём богов по своему образу, едко парировал Мишка.
Сейчас не время для религиозных споров, но ваши замечания правильны, и ваше, Михаил, полностью объясняет всё происходящее. У Ван едва заметно наклонил голову, вроде бы выражая уважение к психологу, но в то же время намекая, чтобы тот не провоцировал ненужный спор. Это «закон кенгуру», как шутят некоторые.
Вы о том, что «кенгуру» значит «не знаю»? усмехнулся американец.
Нет, не об этой байке, а о хорошо известном факте: ни один учёный до открытия Австралии не мог представить себе сумчатых животных. Господин Капустин?
Да, я подготовил справку. Стэн дружески улыбнулся китайцу. Так получается, что все созданные нашей фантазией существа химеры, собранные из «запчастей» уже известных существ.
И что из этого? не сдавался американец. Не из-за плохого характера. Кажется, он на самом деле хотел выявить все зацепки, всё, о чём можно забыть в спокойной беседе, и выбрал себе роль эдакого «адвоката дьявола».
Мы не можем создать не-человеческую личность. Мы можем или повторить себя, или лишить её каких-то качеств, но не наделить новыми.
У Ван кивком поблагодарил Стэна и вывел список эмоций:
Основной аргумент сторонников создания безэмоциональной личности: эмоции мешают развитию интеллекта. Изучение роли эмоций идёт уже давно, но обыватели результатов не знают. А они таковы. Все эмоции выработаны нами в процессе эволюции и являются не «ошибкой природы», а мощнейшим средством коммуникации и выживания вида в целом, напрямую связанным с развитием интеллекта. Разум и чувства находятся в жёсткой сцепке, и, создавая новую личность, мы вынуждены это учитывать. Если мы лишим такую личность человеческих свойств, заставив при этом выполнять наши задания, она с ними просто не справится у неё будут иные критерии деятельности. Но это теория. Сейчас мы говорим о живом мозге, который будет развиваться по известным нам законам. И будет не в состоянии удовлетворить потребности, присущие интеллектуально и эмоционально развитому человеку. Это практический вопрос: такая личность станет, пусть даже неосознанно, противиться нам. Если же она не будет иметь присущих нам эмоций, у неё не будет стимула соблюдать наши нормы. Не считать же таким стимулом страх за свою жизнь? Тогда мы вернёмся к первоначальной проблеме нового рабства и уподобимся сотрудникам центра.
Это, как вы сами сказали, этический вопрос, заметил кто-то из экспертов, а мы пока рассматриваем практические стороны проблемы.