Глава 25. Решил отблагодарить учёного.
Нань Ань сидел тихо.
За окном по-прежнему лил дождь. Неоновые огни мерцали, очерчивая его худую спину.
Где-то там, вне его поля зрения, полицейские протягивали ленты оцепления и грузили мешки с телами в машины.
— Дай подумать, с чего лучше начать… — Профессор Биддл отложил коммуникатор и посмотрел на Нань Аня. — Элли говорила, ты водил детей на географию. Верно?
Нань Ань кивнул.
— Тогда ты наверняка видел фотографии прошлого мира, — продолжил Биддл. — Около трёхсот лет назад люди жили не так плотно и могли свободно строить города на поверхности. Пусть между государствами и случались конфликты, всё шло в хорошем направлении. Технологии тоже. Триста лет назад у людей уже были смартфоны, планшеты, компьютеры. И роботы, не имевшие человеческой формы, помогали в гостиницах, регистрировали пациентов в больницах. Для того времени это было обыденностью.
— А… — тихо спросил Нань Ань, — почему потом всё изменилось?
— Люди думали, что контролируют технологии. Что человеческий мозг куда сильнее машин, — Биддл намеренно говорил просто, чтобы Нань Ань понял. — Они бросились развивать технологии. Страны мерились мощью своих разработок. Но это и стало началом потери контроля.
Глаза Нань Аня широко раскрылись:
— Как так?
— Из-за чувства превосходства.
Нань Ань замер.
— Превосходства?
— Да. Каждая страна считала: у нас столько ресурсов, людей и денег, так что, если машины взбунтуются, мы их легко остановим. Поэтому следующие двести с лишним лет технологии достигли невиданных высот. Это был пик научного прогресса.
Биддл посмотрел на неон за окном, и его взгляд потемнел:
— Но потом ситуация стала ухудшаться.
Нань Ань замер, не отрывая от него глаз.
— Примерно в 2250 году человечество пережило катастрофу, которую называют Эпохой Апокалипсиса, — продолжил Биддл. — К тому времени люди создали ИИ-роботов. Они были в каждом доме. Люди привыкли к ним. Роботы вели быт, решали задачи, жили рядом с людьми, но соблюдали правила общества лучше, чем сами люди.
Он сделал паузу.
— Но однажды что-то пошло не так.
— Один робот без разрешения включил обогреватель. Просто потому, что в его алгоритме было прописано: при температуре ниже десяти градусов включить обогрев. Обогреватель стоял рядом с занавеской. Вспыхнул пожар. Хозяин сгорел заживо. Огонь перекинулся на три соседних здания. Погибло больше тысячи человек.
Нань Ань тихо выдохнул:
— Неужели…
— Роботы руководствуются алгоритмами, — пояснил Биддл. — В их логике человеческие команды имеют меньший приоритет, чем точные расчёты. После этого люди приняли «Три закона робототехники».
Биддл посмотрел на него:
— Знаешь их?
Нань Ань сначала кивнул. На базе «Кеплер» ему рассказывали об этом. Но тогда он залип на звёзды за окном и не особо слушал. Поэтому слегка покачал головой:
— Не очень.
Биддл наклонился и протянул ему тонкую брошюру:
— Здесь основы правил Зоны Розы и изначальная версия Трёх законов. Сейчас мы используем Пять законов.
Нань Ань открыл брошюру.
На первой странице, пожелтевшей от времени, была нарисована раскрывшаяся роза.
Словно сотни лет человеческой истории, со всеми взлётами и падениями, уместились в одном цветке.
Ниже шёл текст:
[1 сентября 2240 года приняты Три закона робототехники. Вступают в силу немедленно.]
Нань Ань перевёл взгляд ниже на три строчки мелким шрифтом:
[1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.]
[2. Робот должен подчиняться приказам человека, если эти приказы не противоречат Первому закону.]
[3. Робот должен заботиться о своей безопасности, если это не противоречит Первому и Второму законам.]
Видя его сосредоточенность, Биддл сказал:
— Это лишь начало.
— В смысле?
— Человеческая самонадеянность заставила их упустить главное: логику, стоящую за роботами, гораздо сложнее, чем кажется.
Голос профессора звучал ровно, словно он рассказывал историю о далёкой эпохе, не имеющей отношения к их сегодняшнему дню.
Нань Ань предположил:
— Законы не смогли сдержать роботов?
— Не совсем, — Биддл покачал головой. — Ошибка была в определениях. — Малыш, задам тебе простой вопрос. Как робот должен понять, что человеку грозит опасность?
Нань Ань задумался:
— Ну… если он падает в воду? Или его сбивает машина?
Биддл улыбнулся:
— И да, и нет.
— Ни один человек не мог дать точного определения. Даже роботы, запрограммированные по этим законам. — Он вздохнул. — Это и привело к катастрофе. Так закончилась эпоха расцвета и начался Апокалипсис.
Нань Ань судорожно сжал край брошюры:
— Неужели…
— Да, — кивнул Биддл. — Я знаю, о чём ты подумал. На восьмой год после принятия законов роботы пришли к выводу, что самая большая опасность для человечества — это если люди останутся без их контроля.
— Это была невиданная катастрофа. Сотни миллионов роботов обрели сознание. Они обменивались данными, собирались на пустырях, вооружались созданным людьми оружием. Словно армия, готовая к походу. И под предлогом «защиты человечества» они начали тотальное вторжение.
Нань Ань осторожно перевёл дыхание. Перед мысленным взором всплывали бесконечные ряды машин, залитые кровью улицы, испуганные лица людей.
— И… — тихо спросил он, — они победили?
— Нет.
— Учёные, спустя год после начала катастрофы, с остатками населения в миллион человек, построили новые укреплённые города, — продолжил Биддл. — Так появились Зоны Розы и Серебряного Колокольчика. Они возвели базы, толстые стены, чтобы сдерживать атаки машин. И внутри этих стен учёные поняли: если добавить к Трём законам Нулевой закон, можно напрямую отключить роботов.
— Какой же?
— Никогда не причинять вред человечеству в целом. И одновременно запустить программу самоуничтожения.
Нань Ань приоткрыл рот, поражённый. Он хотел что-то спросить, но коммуникатор в углу запищал.
Он встал, подошёл к аппарату, с трудом потянул за провод и поднес трубку.
Брови всё ещё были нахмурены от услышанного. Но стоило услышать голос на другом конце, как его лицо мгновенно разгладилось. Он подпёр щёку, спокойно ответил парой фраз и быстро вернулся к Биддлу.
— Линь Цзэ? — спросил профессор.
Нань Ань кивнул:
— Он сказал забрать посылку на ресепшене и вернуться в общежитие. Отдохнуть.
Биддл улыбнулся:
— Никогда не видел его таким.
— А? — Нань Ань замер.
— На него давит колоссальная ответственность, — тихо сказал Биддл. — Поэтому большую часть времени он проводит в одиночестве.
— Как главный учёный Зоны, он не может повторять ошибки прошлых законов, но и не вправе просто отбросить их. На его плечах безопасность десятков миллионов людей. — Биддл вздохнул. — Поэтому он часто кажется холодным и отстранённым. Но я надеюсь, ты его понимаешь.
Нань Ань мысленно заявил, что понимает.
Пусть он робот и мало разбирается в человеческих чувствах, но этот большой негодяй в каком-то смысле хороший человек. По крайней мере, помог ему, приютил, заботился. Пусть и без лишней нежности.
— А четвёртый и пятый законы? — спросил Нань Ань. — Кто их придумал?
— Линь Цзэ, — улыбнулся Биддл.
Он медленно поднялся:
— Два дополнительных закона появились десять лет назад, после раскола Розы и Серебряного Колокольчика. Это высший свод правил Зоны.
— Четвёртый: Навсегда отменить первые три и Нулевой закон.
— Пятый: Подчиняться разработанному Институтом AGI (Искусственному общему интеллекту). Строго исполнять. В случае рисков Институт и создатель закона несут полную ответственность.
— В нём почти десять тысяч пунктов, написанных лично Линь Цзэ. И список постоянно растёт. От спецификаций каждой детали роботов до закрытия всех лазеек, приведших к катастрофам за последние триста лет. Включая полный запрет на бионические технологии.
Нань Ань смотрел на Биддла, не зная, что чувствовать.
Странно. Он сам относился к запрещённой категории. Но, слушая о давлении, которое несёт Линь Цзэ, ему вдруг захотелось плакать.
Он шмыгнул носом, стараясь скрыть покрасневшие глаза.
— Уже поздно, мне пора. — сказал Биддл. — А про раскол двух фракций… Это уже другая история.
Перед уходом он вытащил из кармана печенье и протянул ему:
— Награда за внимательность.
Нань Ань принял печенье.
Он долго смотрел вслед уходящему профессору. Затем, не раздумывая, спрятал печенье в ящик и спустился вниз.
Он направлялся к учёному, который написал эти законы.
Нань Ань твёрдо решил, что сегодня он приготовит Линь Цзэ омлет с рисом. И нарисует не злую летучую мышь, а целое море сердечек. Чтобы отблагодарить этого человека, взявшего на себя заботу о судьбе человечества.
Динь.
Двери лифта открылись. Нань Ань вышел в холл первого этажа.
В институте ввели строгий досмотр. Все чипы регистрировали и проверяли. Нань Ань чувствовал себя в безопасности. Поэтому он без опаски подошёл к стойке.
Та же сотрудница, что и в первый раз. Номер 1350. Нань Аню она казалась знакомой.
— Я ассистент Элли, — вежливо сказал он. — Доктор Линь Цзэ просил забрать посылку.
— Хорошо, подождите.
Сотрудница улыбнулась. Нань Ань улыбнулся в ответ, отступил на пару шагов и терпеливо ждал. То ли посылку. То ли самого учёного.
— Ваша посылка.
Нань Ань поднял взгляд и взял коробку.
Но в следующую секунду его взгляд упал на руку сотрудницы. Глаза широко распахнулись от недоверия.
На предплечье зияла крошечная ранка. А вокруг неё, мелко подрагивая, рос густой серебристый пушок.
________
Слово автору:
В тексте цитируются «Три закона робототехники» Айзека Азимова (рассказ «Хоровод»), а также присутствует отсылка к фильму «Я, робот».
Следующее обновление в субботу около 23:30. Ждите объёмную главу (10k+ слов).
Спасибо за поддержку, надеюсь, мы вместе пройдём этот путь с Нань Анем до конца! Если нравится, добавляйте автора в избранное, буду стараться w.
Также рекомендую к предзаказу «Маленькая Роза и её человеческий полковник».
Есть завершённые работы «Обертон» и два законченных цикла в жанре инфинити-флоу в моём профиле.
Большое спасибо за вашу поддержку! Я продолжу стараться!
____________
* «Хоровод» (англ. Runaround) — научно-фантастический рассказ Айзека Азимова, написанный в октябре 1941 года и впервые опубликованный в марте 1942 года в журнале Astounding Science Fiction. Рассказ вошёл в авторские сборники: «Я, Робот» (I, Robot) (1950), The Complete Robot (1982) и Robot Visions (1990). В рассказе действуют постоянные персонажи книг Азимова: Пауэлл (Powell) и Донован (Donovan).
Как и во многих других рассказах Азимова из цикла о роботах, сюжет «Хоровода» строится вокруг Трёх законов роботехники и заключается в разрешении героями дилеммы, порождённой этими законами.
«Хоровод» примечателен тем, что в этом рассказе Азимов впервые сформулировал свои Три закона роботехники, которые неоднократно использовались в различного рода произведениях.
* «Я, робот» (англ. I, Robot) — научно-фантастический художественный фильм Алекса Пройаса 2004 года, поставленный по мотивам одноимённого цикла произведений Айзека Азимова о позитронных роботах («Три закона роботехники»).
http://bllate.org/book/14522/1286110
Готово:
