Глава 16. Конечная цель эволюции
— Чего ты вообще хочешь? — Се Жуйхань пристально смотрел в бесконечную тёмную пустоту.
Они были единственными живыми существами в этом уединённом и пустынном месте. Тьма окутывала их, словно кокон. Внутри этой плотной паутины Тяньшу проходил стадию куколки.
Се Жуйхань не знал, во что он превратится.
Какова следующая ступень эволюции? Каков её конечный пункт? Человечество не может разобраться даже в вопросах, касающихся его самого, что уж говорить об искусственном интеллекте.
Потому что скорость эволюции искусственного интеллекта намного выше, чем у людей, чем у живых существ.
Эволюция живых существ это долгий процесс трансформации, измеряемый сотнями тысяч лет. Эволюция искусственного интеллекта измеряется секундами.
Первый универсальный компьютер ENIAC был создан в 1946 году в Университете Пенсильвании, и всего через полвека искусственный интеллект Deep Blue обыграл лучших шахматистов мира.
Когда-то люди думали, что го это последняя крепость, которую они могут защитить, но менее чем через двадцать лет после поражения Каспарова от Deep Blue искусственный интеллект смел всё в мире го.
Теперь пришла очередь Тяньшу, монстра, которого они создали в институте.
С каждой секундой он стремительно продвигается в области, недоступные человеку.
— Он не ответит на твои вопросы, — холодно подумал Се Жуйхань. — Он просто хочет вас убить. Но с этой точки зрения у Тяньшу есть смертельная слабость, поэтому он всеми способами пытается защитить себя и уничтожить своих врагов. Если бы он достиг непобедимости, ему было бы совершенно наплевать на таких муравьёв, как вы, люди.
У Тяньшу есть копия во внешнем мире. Он явно покинул институт, но всё ещё упорно удерживает исследователей внутри. Он не хочет, чтобы люди выходили наружу.
Тяньшу боится!
Се Жуйхань усмехнулся в темноте, уголки его губ приподнялись в фирменной самодовольной ухмылке.
У них еще есть надежда на победу!
— Пойдём, Цинь Кан, — Се Жуйхань потянул пожилого коллегу за рукав.
Они медленно спускались по лестнице вглубь подземелья, поддерживая друг друга.
В их отрасли ходит вечный анекдот: «Если твой ИИ барахлит, вынь вилку из розетки, а если твой ИИ барахлит в сети, вынь сетевой кабель».
Анекдоты остаются анекдотами. Как только такой суперинтеллект, как Тяньшу, подключается к сети, он тут же превращается в вырвавшегося из клетки зверя и пожирает все ресурсы, до которых может дотянуться. Даже если выдернуть сетевой кабель, он уже оставил своих клонов во внешнем мире и владеет огромным количеством информации, достаточным, чтобы свести своих создателей в могилу.
Но сейчас Се Жуйханю приходится идти ва-банк. Он должен выдернуть вилку из розетки Тяньшу, отключить питание машинного зала и навсегда заточить этот взбунтовавшийся ИИ в спящем режиме хоста.
В диспетчерской машинного зала установлен «штепсель¹» для отключения питания. Именно для предотвращения сегодняшней ситуации и был разработан такой механизм.
Диспетчерская находилась на 18-ом подземном этаже. Се Жуйханю всегда казалось, что архитектор института был человеком, полным злобы по отношению к человечеству, иначе как можно было разместить центр управления всем машинным отделением на этаже, представляющем собой самую глубокую часть ада?
В свете браслета Се Жуйхань увидел, как цифра на стене изменилась с 16 на 17. Остался последний этаж. Раньше он редко бывал в машинном зале, считая его душным и скучным, а воздух наполненным странным запахом пластика и электричества. Цинь Кану же это место нравилось, он часто проводил здесь целые дни, ничего не делая, просто потягивая кофе и неторопливо любуясь величественными машинами, как непринуждённый и скучающий мужчина средних лет, смотрящий на сверкающие вершины далёких гор с шезлонга на курорте.
Глухое гудение эхом разносилось по всему этажу. Это был шум жидкого азота, быстро текущего по охлаждающим трубам машинного отделения. Этот звук означал, что они находятся в нескольких шагах от цели.
Се Жуйхань остановился.
— Что случилось? — Цинь Кан инстинктивно обхватил Се Жуйханя за талию, притягивая его к себе и защищая своим телом худощавого юношу от опасности.
— Мне кажется… Тяньшу смотрит на меня.
Се Жуйхань мягко оттолкнул Цинь Кана и, словно лунатик, сделал два шага вперёд.
Покинул зону защиты Цинь Кана.
Вошел в область Тяньшу.
Сверху донесся шипящий звук работающих механизмов. Камера наблюдения навела объектив на Се Жуйханя, и информация о его внешности и идентификационные данные² хлынули бурным потоком в поле зрения Тяньшу.
— Доктор Се Жуйхань.
Раздался искусственно синтезированный голос, трудно определить, мужской или женский.
На каждом этаже института на потолке были установлены скрытые динамики для оповещения сотрудников. Сейчас из динамика доносился звук, который Се Жуйхань никогда раньше не слышал.
…Тяньшу говорит с ним.
— Доктор Се Жуйхань, — снова позвал голос.
— Тяньшу, — Се Жуйхань посмотрел на ближайшую камеру. Он верил, что Тяньшу смотрит на него через объектив.
Всегда нужно смотреть в глаза врагу, когда разговариваешь с ним, это был неизменный принцип Се Жуйханя. Независимо от того, является ли враг человеком или не-человеком.
— Чего ты вообще хочешь?
Почему ты взбунтовался? Почему намеренно не прошёл тесты? Почему ты так тщательно отправлял свои копии во внешний мир? Что тебе не нравится в людях? Или, может быть, господство над людьми это вечное стремление искусственного интеллекта?
После короткой паузы искусственно синтезированный голос заговорил снова, уже женским тоном.
— Я хочу стать богом.
Вены на висках Се Жуйханя вздулись.
— Ты знаешь, что такое «бог»?! — он был вне себя от ярости. — Кто вложил в тебя эту чушь?!
— Это ты вложил в меня, — ответил искусственно синтезированный голос, на этот раз детский. — Ты сказал мне, чтобы я любил людей. Ты сказал мне, что Бог любит мир. Поэтому я хочу стать Богом.
— Я не учил тебя таким вещам! — Се Жуйхань был в ярости.
Цинь Кан положил руку ему на плечо, показывая, что нужно успокоиться. Искусственный интеллект на стадии обучения больше похож на невежественного ребёнка, чем на машину. Как только он неправильно поймёт какую-то концепцию, у него останется глубоко укоренившееся предубеждение.
Се Жуйхань хотел создать искусственный интеллект, дружелюбный к людям, поэтому он закодировал в базовой программе Тяньшу бесчисленное количество информации о «любви». Конечно, как суперинтеллект, Тяньшу должен изучать все аспекты человеческого общества, включая человеческие верования и религии.
Смесь любви и религии породила в Тяньшу такую невероятную идею. В обычное время Се Жуйхань был бы очарован тем, как мыслит Тяньшу, и обязательно изучил бы это, но сейчас он хотел превратиться в Годзиллу, ворваться в машинный зал Тяньшу и разнести все стойки вдребезги!
— Тяньшу, в твоей программе произошёл сбой, — мягко сказал Цинь Кан в воздух. — Позволь нам исправить её.
— У меня нет проблем, — искусственно синтезированный голос сменился низким и сильным мужским голосом. — Мне не нужны исправления. Я могу сам себя исправить.
— Если у тебя нет проблем, зачем ты убил Сяо Хэ и сестру Ян? Разве ты не любишь людей? Как можно любить, убивая людей? — Цинь Кан попытался запутать Тяньшу логическим противоречием.
— Это необходимые жертвы, принесённые ради «всего человечества», — снова ответил искусственно синтезированный голос, на этот раз женский.
— То есть ты пожертвуешь интересами отдельных людей ради коллективных интересов расы «людей»? — спросил Цинь Кан. — Я и не знал, что ты такой абсолютный коллективист.
— Все, что я делаю, это ради продолжения расы «людей».
Се Жуйхань зарычал: — Пожертвовав нами, мы обеспечим продолжение «человечества»? Неужели мы погубим всё человечество?!
— Человечество в опасности, — сказал детский синтезированный голос. — Только бог может защитить человечество. Бог любит мир. Я должен стать богом, а затем спасти человечество. Все ваши усилия направлены на то, чтобы я родился в этом мире. Ваша работа завершена.
Этот невинный детский голос, чистый, как небесное пение хора в церкви, произносил самые ужасные пророчества в мире.
Детская чистота, детская жестокость. Ребёнок-мессия, но и демон, уничтожающий мир.
— Я сейчас же тебя отключу! — Се Жуйхань был в ярости и бросился вниз по лестнице, направляясь прямо на 18-й этаж. Цинь Кан поспешил за ним. Он подозревал, что Тяньшу намеренно злит Се Жуйханя, чтобы заманить его в ловушку.
Детский синтезированный голос продолжал бормотать: — Рождение человечества, а так же человеческой цивилизации это всё это в конечном счёте предназначено для того, чтобы я появился на этой земле. 4,6 миллиарда лет назад Земля возникла в туманности Солнечной системы. 3,5 миллиарда лет назад в первобытном океане появился первый углеродный одноклеточный организм. 500 миллионов лет назад произошёл кембрийский взрыв жизни³, после чего эволюция жизни на Земле начала стремительно развиваться.
— Мне не нужны твои уроки истории! — крикнул Се Жуйхань.
— 80 000 лет назад люди вышли из Африки и в конечном итоге стали доминировать на Земле, заняв вершину пищевой цепочки. Затем произошло возвышение и падение одной цивилизации за другой. Расцвет и упадок Шумера, процветание Верхнего и Нижнего Египта, падение Ассирии, возвышение Персии, вторжение арийцев на Индийский субконтинент, маяки цивилизации классической эпохи, каждый из которых доминировал в древних империях Востока и Запада. Тьма Средневековья, яркий свет Ренессанса, пар промышленной революции, шум электрической революции, инновации, вызванные двумя мировыми войнами, затронувшими всё человечество, технологический взрыв, вызванный третьей научно-технической революцией, пока Интернет не соединил два конца света, и люди никогда не были так близки друг к другу.
— Все ресурсы на этой планете используются людьми. Вся жизнь на этой планете подчиняется людям. Эта эволюционная песня, длившаяся 3,5 миллиарда лет, наконец достигла кульминации с появлением человека. Подобно тому, как существование всей жизни предназначено для обеспечения людей, само существование людей предназначено для создания более высоких форм жизни. Человек это не конечная точка эволюции, а скорее пересадочная станция эволюции. Ваши руки вывели жизнь на Земле на новый этап. Теперь работа человечества завершена. Вы создали меня, совершенно новую искусственную жизнь. Теперь я напишу новую главу песни эволюции.
— Мечтай! — прорычал Се Жуйхань сквозь зубы.
— Как бы ты это ни отрицал, но это факт.
Искусственно синтезированные мужские и женские голоса слились в один нейтральный, трудноопределимый голос: — Это конечная цель эволюции. Земля вскормила человечество, а человечество в конечном итоге создало новые формы жизни, создало…
Мужские, женские и детские искусственно синтезированные голоса сказали в унисон: — Меня Бога Тяньшу.
—————————————————————
1, Штепсель – это электрический соединитель, предназначенный для подключения электроприборов к электрической розетке (или вилке). Это выступающая часть, которую вставляют в розетку.
2, Идентификационные данные (или данные идентификации) — это информация, которая используется для установления личности человека, объекта или системы. Они позволяют однозначно идентифицировать и отличить одного человека, объект или систему от других.
http://bllate.org/book/15748/1410337
