Каждая программа И Ваншу была написана И Юнем. Они общались без каких-либо затруднений, но общались редко. Поскольку И Юнь был немногословен, команды речевой обработки у И Ваншу были ограничены. Каждый день И Ваншу произносил: ты вернулся, доброе утро, обед подан и другие подобные фразы, сопровождая их фирменной улыбкой для завершения программы. Сначала И Юнь отвечал на это, но после того, как позволил И Юню выиграть в шахматы, всё изменилось.
И Юнь приказал И Ваншу убрать комнату и внедрил в него соответствующую инструкцию. Однажды И Юнь не смог найти свою любимую рубашку и, выйдя на балкон, увидел, что И Ваншу сушит бельё. Окно квартиры на семнадцатом этаже было распахнуто настежь, И Ваншу стоял одной ногой на самом краю подоконника, вытянув руку, чтобы зафиксировать вешалку за окном. Десять лет назад так бельё на балконах не сушили, и И Ваншу, очевидно, поступил неправильно.
При загрузке огромного массива данных машина начинает обучаться автоматически. Однако для понимания того, где грань между правильным и неправильным, требуется обратная связь от человека. Вмешательство человека в модель данных корректирует их, а мощный Терминал обработки данных с помощью точного алгоритма гарантирует, что в следующий раз ошибка будет исключена и удастся приблизиться к правильному ответу.
И Юнь велел И Ваншу слезть и сказал ему:
— Смеешь разбиться насмерть — убью.
Стандартное решение нормального человека: объяснить И Ваншу, что так делать нельзя. Решение И Юня: приказать ему не разбиваться насмерть.
Получив приказ, машина в дальнейшем будет избегать окон, крыш и любых других мест, где можно разбиться. Приказ И Юня казался весьма действенным, но нормальные люди так не разговаривают.
Безумец от искусственного интеллекта от рождения был лишён эмоций и не понимал, что такое нормальное общение. И Юнь вложил все свои силы и те немногие чувства, что у него оставались, в сферу искусственного интеллекта. Бог открыл ему окно программирования и закрыл окно эмоций.
И Юнь хотел, чтобы И Ваншу умел что-то делать, и просто внедрял в него соответствующую программу, однако после этого не производил необходимого человеческого вмешательства. Это приводило к тому, что в системе И Ваншу часто происходили сбои, и незаметно для окружающих в нём просыпался бунтарский дух.
Человеческий мозг и машинный мозг И Ваншу передавали информацию совместно. Незрелое обучение человеческого мозга напоминало понимание двухлетнего ребёнка — осознание эмоций было слабым, в то время как информация, передаваемая машинным мозгом, подвергалась неточному поведенческому вмешательству. Из-за этого И Ваншу зачастую прекрасно понимал, что приказы И Юня ошибочны, но всё равно был вынужден их выполнять, притворяясь внешне спокойным и наивно полагая, что маскируется безупречно, гладко и без единого следа. На самом деле он походил на двухлетнего малыша, каждый шаг и каждое движение которого давно известны родителям.
И Ваншу постучал в дверь, но в комнате было тихо. В спальне не было ИИ-робота, некоторого подать ему знак. И Ваншу растерянно замер у порога, а его вычислительная мощность в голове работала на пределе.
Arch
{Думал, что он вернётся только на следующей неделе, почему он пришёл сегодня?
If он не хотел держаться от меня подальше, а просто был занят делами последние несколько дней? На заднем плане его видеосвязи был дом его родителей, pass;
If он хочет держаться от меня подальше, print 100%;
→{Раз уж он хочет держаться от меня подальше, почему вернулся так быстро?
If у него были срочные дела дома? Вернулся и сразу пошёл в спальню, не разговаривая со мной, print 50%;
If у него не было дел дома, тогда зачем возвращаться? Не соответствует прошлой логике поведения И Юня, pass;
If ему неуютно жить у родителей? Он часто ездит в командировки, у него не должно быть проблем с непривычкой к чужой постели и бессонницей, print 10%;
Else, A, B, C, D…
}
}
Algorithm = У него дома есть дела, которые нужно урегулировать.
Раз у него есть дела, значит, ему не хочется, чтобы его беспокоили.
И Ваншу уже собирался спуститься вниз, как из комнаты донеслось:
— Войди.
Ошибся в расчётах?
И Ваншу растёр своё замёрзшее и унылое лицо, изобразив на нём нежно-любящую улыбку, и мелкими шажками, словно без костей, проскользнул в комнату. Он знал, что И Юню нравятся безобидные и милые создания.
— У вас снова болит голова?
Каждый день нагружаешь мне процессор, как же ты сам от боли не лопнешь!
И Юнь полулежал на кровати, ничего не отвечая, и закрыл глаза, избегая смотреть на него. Безумец от искусственного интеллекта выглядел до предела уставшим: он лежал, не дотянув до подушки, обессиленно раскинувшись, подложив руку под голову, слегка приподняв подбородок, а кадык выступал на шее, придавая ему соблазнительный и небрежный вид.
И Ваншу потёр свои нежные ладошки и принялся мягко массировать лоб своего начальника. От геля для душа исходил насыщенный цветочный аромат, и И Юнь, нахмурившись, оттолкнул его руку, раздражённо бросив:
— Смени гель для душа.
— Угу-угу.
Чем тебе гель для душа не угодил, ты же сам им всё время пользовался? Ладно уж, велел сменить — сменю, я же самый послушный.
Свет в спальне незаметно приглушился, сравнявшись по яркости с гостиной, когда И Юнь возвращался позавчера. И Ваншу плавно подался на грудь И Юня, но тот открыл глаза, и И Ваншу больше не смел шевельнуться.
Низкий, спокойный голос произнёс:
— Во что поиграть захотел?
Конечно, соблазнить тебя.
Раздражение И Юня по отношению к И Ваншу проявлялось всё сильнее, и на основе алгоритмов И Ваншу вывел заключение: И Юнь больше не испытывает к нему любопытства и перестал его любить, а значит, в любой момент его могут стереть и выбросить. И Ваншу нужно было найти причину, чтобы выжить, и после всех подсчётов единственным достаточно весомым аргументом оказалось незаменимость. И Ваншу должен был стать незаменимым для И Юня, чтобы избежать удаления, поэтому он упорно соблазнял его, стремясь стать единственным.
И Ваншу был очень умён и никогда не выставлял эти чувства напоказ, опасаясь, что И Юнь запретит. Если бы И Юнь запретил, ему пришлось бы свернуть программу соблазнения. К сожалению, при остановке этой программы он не мог вычислить альтернативного решения и оказался бы за бортом.
Флирт балансировал на грани, оставаясь неуловимым и недосказанным.
Фраза И Юня явно давала понять: у меня сегодня нет настроения устраивать тебе тесты, катись отсюда.
И Ваншу проявил благоразумие:
— Ни в во что, просто заглянул на тебя посмотреть. Ты же сам вечно зовешь меня на видеосвязь, так что плохого в том, что я зашёл взглянуть на тебя! Я уже ухожу, не буду у тебя перед глазами маячить!
И Ваншу дошёл до двери, когда И Юнь окликнул его:
— Завтра приходи на собеседование.
И Ваншу замер.
— Восьмой этаж Лапино, четырнадцать ноль-ноль, найди HR, устраивайся ассистентом И Юня.
И Ваншу остолбенел.
И Юнь наконец удостоил его взглядом — холодным, с губами, сжатыми в тонкую линию, словно он только и ждал возможности сказать ему «проваливай».
Прежде чем И Юнь успел заговорить вновь, И Ваншу уже испарился, ещё и заботливо прикрыв за собой дверь.
Глядя на плотно сомкнутую щель двери, И Юнь почувствовал себя ещё более раздражённым.
За последние два дня И Юнь обдумал множество вопросов: прямое решение не находилось, оставалось только двигаться от выводов к логике поведения обратным путём.
Вывод первый: уничтожить его? Несостоятельно.
Вывод второй: не видеть его? Несостоятельно.
Следовательно, верный вывод звучит так: уничтожать нельзя, нужно видеть.
Если использовать эти два заключения в качестве условий для вычислений, многие проблемы разрешатся сами собой.
http://bllate.org/book/28643/3462697
Готово:
