Готовый перевод Little Robot on the Run / Маленький робот в бегах: Глава 25

Глава 25. Решение наградить учёного.

Нань Ань сидел очень тихо.

За окном продолжал лить дождь, и яркие неоновые огни мерцали, очерчивая его тонкую спину.

Казалось, повсюду вне поля его зрения, полицейские устанавливали кордоны, перенося мешки с телами, наваленные на улицах, в свои машины.

Профессор Биддл выключил коммуникатор и обратился к Нань Аню:

— Элли говорила, что ты сопровождал детей на урок географии, верно?

Нань Ань кивнул.

— Тогда, наверное, ты видел прежний мир. Давным-давно, около трёхсот лет назад, плотность заселения людей была не такой большой, и они свободно строили города на суше. И хотя между народами возникали войны, развитие не останавливалось, в том числе и развитие технологий. Триста лет назад люди изобрели мобильные телефоны, планшеты и компьютеры, а также роботов, не имеющих человеческого облика, которые помогали доставлять еду и регистрировали пациентов в больницах. В то время для людей это было обыденностью.

— А ...... почему потом всё изменилось?

— Люди тогда считали, что технологии под их контролем, что человеческий мозг превосходит машин. — Чтоб Нань Ань понимал, профессор Биддл говорил простым языком, — Поэтому люди начали активно развивать технологии, величие стран измерялось её технологиями, но это также стало началом потери контроля.

Глаза Нань Аня расширились:

—Каким образом?

— Всему виной чувство превосходства.

Нань Ань замер.

— Чувство превосходства?

— Верно.

— Все страны считали, что у них столько ресурсов, рабочей силы и денег, что даже если машины выйдут из-под контроля, они вполне способны их остановить. Поэтому в течение следующих двухсот лет или около того, технологии людей достигли несравненных высот, вершины технологической истории.

Профессор Биддл посмотрев на неоновые огни за окном, медленно закрыл глаза:

— Но потом всё стало сложнее.

Нань Ань напрягся и не мигая, смотрел на профессора.

— Более двухсот лет спустя, примерно в 2250 году, человечество пережило великую катастрофу, известную как Апокалипсис. Тогда были созданы роботы с искусственным интеллектом, они были в каждом доме и люди сильно зависели от них. Поскольку они могли выполнять работу по дому и справляться со всеми делами, они жили как люди, но соблюдали правила общества больше, чем большинство людей.

Он сделал паузу и продолжил:

— Но однажды случился инцидент.

— Робот без разрешения включил обогреватель, просто потому, что в его алгоритме было заложено включать обогреватель при температуре ниже десяти градусов. Но обогреватель стоял вплотную к шторам, в пожаре не только заживо сгорел его спящий хозяин, но и тысячи людей были поглощены пламенем, распространившемся на три соседних здания.

Нань Ань прошептал:

— Но почему?

— Потому что роботами управляют алгоритмы, и следуя их логике, команды людей обладают приоритетом ниже точных вычислений. Поэтому люди ввели Три закона робототехники.

Биддл посмотрел на Нань Аня и тихо спросил:

— Знаешь каких?

Нань Ань сначала кивнул.

Когда он был на базе «Кэплер», ему это объясняли.

Но в то время его внимание было приковано к звёздам за окном, и он не особо слушал, что там были за законы.

А потом покачал головой.

— Не знаю.

Профессор Биддл наклонился и протянул Нань Аню брошюру:

— Здесь указаны основные принципы региона Розы и Три Закона Робототехники, но в настоящее время в регионе Розы действуют Пять Законов Робототехники.

Нань Ань перевернул титульную страницу.

На обветшалой первой странице была изображена распустившаяся роза.

Словно вся история развития человечества, насчитывающая сотни лет, со всеми взлётами и падениями, уместилась на этой единственной розе.

А следом Нань Аню на глаза попался отрывок.

[1 сентября 2240 года человечество ввело Три Закона Робототехники, которые должны были немедленно вступить в силу].

Нань Аня перевёл взгляд вниз.

Чуть ниже, мелким шрифтом, были написаны три закона.

[Первый закон: робот не может причинить вред человеку или через своё бездействие допустить, чтобы человеку был причинён вред.]

[Второй закон: робот должен подчиняться указаниям человека, кроме случаев, когда такие указания противоречат первому закону.]

[Третий закон: робот должен защищать собственную безопасность, если только такие действия не противоречат первому или второму закону.]

Видя, как сосредоточенно читает Нань Ань, профессор Биддл сказал:

— Это только начало.

— Что вы имеете в виду?

— Из-за собственного самодовольства и ложного чувства превосходства, люди игнорировали мощную логику роботов.

Его тон был ровным, и у Нань Аня сложилось впечатление, что он рассказывает историю с точки зрения наблюдателя целой эпохи, не имеющей к ним никакого отношения.

Поэтому Нань Ань задался вопросом:

— Получается эти законы не смогли сдержать роботов?

— Не совсем, — Биддл покачал головой, — Причина в неверном определении.

— Дитя, позволь задать тебе простой вопрос.

— Давайте.

— Как роботу определить грозит ли человеку опасность?

Нань Ань задумался:

— Например, ...... если человек упал в воду или его сбила машина на улице?

Биддл рассмеялся:

— И то, и другое, но нет.

— Никто не может дать правильное определение, включая роботов, связанных тремя законами. — сказал он и вздохнул, — Это и привело к великой катастрофе, уходу эпохи процветания и последующему апокалипсису.

У Нань Аня был шокированный вид, его глаза расширились, а пальцы вцепились в уголок брошюры:

— Тогда .......

— Да. — Профессор Биддл кивнул, — Я знаю, что ты хочешь сказать, мой мальчик. На восьмой год после введения Законов роботы пришли к выводу, что люди представляют опасность и следует взять их под контроль.

— Это была беспрецедентная и ошеломляющая катастрофа, сотни миллионов роботов, обладающих собственным сознанием, обмениваясь сообщениями, собрались на поляне вооружённые оружием, созданным людьми, и затем вторглись в человеческие города.

Нань Ань осторожно вздохнул.

Перед его глазами, казалось, мелькали бесчисленное множество роботов, залитые кровью города и испуганные глаза людей.

— Итак... — начал Нань Ань, — Они преуспели?

Биддл покачал головой:

— Нет.

— Через год, миллион выживших под предводительством учёных, начали строительство новых городов. Это было начало регионов Розы и Серебряного Колокольчика. Построив новые базы и укреплённые стены, призванные защитить людей от роботов, учёные в конце концов нашли решение - отключить роботов посредством введения нулевого закона.

— Какого?

— Никогда не причинять вреда людям и одновременно с этим запустить процесс самоуничтожения.

Нань Ань озадаченно открыл рот, и, похоже, собирался что-то сказать, когда услышал, звуковой сигнал коммуникатора.

И встал, чтобы ответить.

Коммуникатор лаборатории лежал в углу, и Нань Аню с трудом удалось подцепить его, едва успев ответить на вызов.

Он нахмурил брови, словно до сих пор был погружен в историю, которую ему только что поведали, но, когда он дождался соединения и услышал голос собеседника, брови Нань Аня мгновенно расслабились, ответив парой слов, быстро вернулся обратно.

— Линь Цзэ?

Нань Ань кивнул.

— Он сказал мне забрать посылку на стойке регистрации, а потом отправляться домой и отдыхать.

Биддл улыбнулся:

— Я никогда не видел его таким.

— Хм?

Нань Ань замер.

— На него оказывается слишком большое давление. Из-за этого он очень одинок.

— Как учёный Розы он не может позволить себе совершать ошибки предыдущих поколений, но и отказаться от Трёх законов и взять на себя ответственность за безопасность десятков миллионов жителей Розы, он тоже не может. Он постоянно рискует собой, и я надеюсь, ты сможешь его поддержать.

Нань Ань про себя прошептал, что конечно поддержит.

Хотя он был роботом и мало что знал о человеческих эмоциях, но большой злодей в каком-то смысле был хорошим человеком, по крайней мере, он помог ему и заботился о нём, пусть и по-своему.

— Так что за два других закона? — спросил Нань Ань, — Кто их придумал?

Биддл улыбнулся:

— Это был Линь Цзэ.

Профессор Биддл медленно встал:

— Последние два закона были приняты десять лет назад, после разделения Розы и Серебряного Колокольчика, и имеют высший приоритет в Розе.

— Четвёртый навсегда отменяет первые три и Нулевой закон. А пятый - ......

— Подчиняться разработанному Институтом искусственному интеллекту AGI. В случае возникновения каких-либо рисков, ответственность за это полностью ляжет на Институт и его создателей.

— В нём прописано около десяти тысяч правил, внесённых Линь Цзэ, и они продолжают дополняться по сей день, от спецификаций каждой мельчайшей детали роботов, до исправления лазеек всех робототехнических фиаско, произошедших за последние триста лет, а также запрет бионических технологий и так далее.

Нань Ань смотрел на Биддла, и не мог прочитать его эмоции в данный момент.

Странно, что он явно относился к категории запрещённых технологий, но, когда он услышал о законах, которые ввёл Линь Цзэ, и о том давлении, которое на него оказывается, ему вдруг захотелось заплакать.

Он фыркнул и постарался скрыть покрасневшие глаза.

— Ладно, уже поздно, мне пора. — сказал Биддл, — А что касается раскола между двумя фракциями после этого, то это уже другая история.

Перед тем как Биддл ушёл, он достал из кармана печенье и протянул его Нань Аню:

— Награда за то, что внимательно слушал.

Нань Ань протянул руку и взял печенье.

Он долго смотрел вслед удаляющейся фигуре профессора Биддла.

Отбросив лишние мысли, он спрятал печенье в ящик стола и спустился вниз.

Он собирался встретиться с учёным, который создал эти законы.

Нань Ань решил, что сегодня он приготовит для Линь Цзэ рисовый омлет и вместо свирепых летучих мышей нарисует на нём маленькие сердечки, дабы угостить великого учёного, который заботится о человечестве.

В сопровождении дзиньканья Нань Ань вышел из лифта и оказался в вестибюле первого этажа.

В институте был введён высокий уровень безопасности, и все чипы должны были быть зарегистрированы и проверены, что позволяло Нань Аню чувствовать себя в безопасности. Поэтому он, ничего не подозревая, подошёл к стойке регистрации.

На стойке регистрации был тот же администратор, что и в первый раз, когда он приходил сюда с Гиллом, администратор 1350.

Нань Ань вежливо заговорил:

— Я ассистент Элли. Доктор Линь Цзэ послал меня забрать посылку.

— Хорошо, подождите.

Администратор улыбнулся ему.

Нань Ань последовал его примеру и, отойдя на пару шагов назад, прищурил глаза, ожидая посылку или научного сотрудника.

— Ваша посылка.

Нань Ань поднял глаза и протянул руки, чтобы забрать посылку.

Но в следующую секунду он взглянул на его руку и его зрачки в неверии расширились.

В поле его зрения попала маленькая ранка, но она была покрыта серебристым пухом, который слегка подрагивал.

______________

Слово автору:

В тексте цитируются «Три закона робототехники» Азимова из "Хровод"*, и отчасти вдохновением послужил фильм "Я, робот"*

*Хоровод» (англ. Runaround) — научно-фантастический рассказ Айзека Азимова, написанный в октябре 1941 года и впервые опубликованный в марте 1942 года в журнале Astounding Science Fiction. Рассказ вошёл в авторские сборники: «Я, Робот» (I, Robot) (1950), The Complete Robot (1982) и Robot Visions (1990). В рассказе действуют постоянные персонажи книг Азимова: Пауэлл (Powell) и Донован (Donovan).

Как и во многих других рассказах Азимова из цикла о роботах, сюжет «Хоровода» строится вокруг Трёх законов роботехники и заключается в разрешении героями дилеммы, порождённой этими законами.

«Хоровод» примечателен тем, что в этом рассказе Азимов впервые сформулировал свои Три закона роботехники, которые неоднократно использовались в различного рода произведениях.

* «Я, робот» (англ. I'm Robot) — научно-фантастический художественный фильм Алекса Пройаса 2004 года, поставленный по мотивам одноимённого цикла произведений Айзека Азимова о позитронных роботах («Три закона роботехники»).

http://bllate.org/book/14522/1286110