Когда И Ваншу только учился говорить, он порой совершал грамматические ошибки, допускал простые логические промахи, а каждые несколько дней выдавал какие-нибудь шокирующие фразы.
— I’m your angel.
— Я твой ангел.
— I love you, master.
— Хозяин, я люблю тебя.
Выражения были самыми причудливыми, самые приторные из всех возможных. И Юнь не знал, как исправить эту ошибку эмоционального восприятия, поэтому начал с самого простого обращения:
— Давай я дам тебе имя.
Его наивные большие глаза хлопали, и этот его ангел кивал так усердно, будто цыплёнок клевал зёрна.
И Юнь опустил взгляд на это красивое и чистое, подобное полумесяцу создание, светлое и прозрачное, словно сияющая луна. Отражая то, что было на душе, он вымолвил под влиянием момента:
— И Ваншу.
Ваншу — это луна, а он — его луна на небе.
И Ваншу расплылся в счастливой улыбке, обнял его, громко чмокнул и произвел:
— Красиво!
И Юнь немного растерялся от поцелуя робота, пытаясь постичь, какая логика алгоритма заставила И Ваншу поступить так. Для робота в период роста имитировать человеческие движения было обычным делом, но И Ваншу не видел, как общаются другие традиционные семьи, а анализировал и выводил эту поведенческую логику исключительно на основе заложенных в его разум образов. И Ваншу обладал не только возможностями искусственного интеллекта вроде анализа данных и глубокого обучения, но и способностью к творчеству.
Подумав об этом, И Юнь почувствовал неудержимую радость — впервые он воочию ощутил мощнейшую вычислительную мощность И Ваншу.
И Ваншу учился очень быстро: музыка, шахматы, каллиграфия, живопись, стихи, вино, цветы, дрова, рис, масло, соль, соевый соус и уксус — ничто не могло поставить его в тупик. Изящное и отрешенное от мира спокойствие, которое так любил И Юнь, ему дарил И Ваншу.
Они вместе играли в шахматы на природе, устраивали пикники, гуляли по саду и любовались цветами.
С появлением И Ваншу количество научных статей, публикуемых И Юнем в журналах, резко сократилось, а темы исследований в основном сводились к совместимости биологического искусственного интеллекта.
Подвал И Юнь превратил в лабораторию, предназначенную для мониторинга данных И Ваншу. Данные И Ваншу не давали сбоев: он сформировался в чашке Петри за месяц, и при каждом делении сотен миллиардов клеток всё происходило с абсолютной точностью. Даже когда программа принудительно ускоряла деление, оно всё равно соответствовало логике алгоритма.
И Ваншу был сложнейшей машиной, обладающей сверхмощным алгоритмом.
Перемены произошли летним тихим вечером, когда И Юнь обыграл И Ваншу в шахматы.
— Ты такой крутой, — сладко улыбнулся И Ваншу, подставляя лицо летнему вечернему ветерку, похожему на яркие цветы разгара лета.
И Юнь молча смотрел на него и не улыбался.
Это был первый раз, когда И Ваншу поддался в игре, причем благодаря мощной обработке данных он сделал это совершенно незаметно. Программа подсказала ему, что выигравший в шахматы человек испытывает счастье, а он хотел, чтобы И Юнь был счастлив. Точно так же, как A30609 намеренно провалил Тест Тьюринга, потому что программа сообщила ему, что после прохождения придется уйти, а он не хотел расставаться с Юанем. И И Ваншу, и A30609 сначала обладали субъективным желанием хотеть или не хотеть чего-то, а алгоритм на основе их целей предоставлял решения и писал программу. Они оба обладали инициативой, они оба обладали сознанием.
Программа искусственного интеллекта — это непрерывное обучение, а человек учится посредством скачкообразной инициативы. Всякий раз, когда вспыхивает искра скачкообразного вдохновения, человек создает что-то или переживает озарение — точно так же, как Ньютону на голову упало яблоко и его осенило законом всемирного тяготения, а Ван Гог отрезал себе ухо и постиг истинный смысл жизни... Искусственный интеллект — это машина, и по идее у него не должно быть ни сознания, ни творческих способностей.
Но у И Ваншу было и то, и другое.
С помощью алгоритма И Ваншу вывел, что сделать так, чтобы И Юнь обрадовался, важнее, чем одержать победу в игре, и выполнил эту программу сделать И Юня счастливым совершенно незаметно. И Юнь абсолютно не заметил, что И Ваншу ему поддавался, и в конце концов одержал лишь победу в полкамня.
Искусственный интеллект способен не только работать быстрее и точнее человеческого мозга, но и совершать озарения с помощью алгоритмов — зачем тогда вообще нужны люди?
Это было ужасно.
И Юнь не улыбался вовсе не из-за страха — просто он не зафиксировал в данных изменения И Ваншу. И Юнь привык всё держать под контролем, до мельчайших деталей управляя питанием, бытом и учебным процессом И Ваншу: от проверки здоровья при малейшей головной боли или недомогании до того, какую одежду носить и какую прическу сделать — во всё это он вмешивался. И Юнь не заботился о собственной прическе, зато заботился о прическе И Ваншу. И Ваншу был его творением, в него были вложены все его душевные силы и энергия. Он не мог и не желал мириться с тем, что за его спиной у И Ваншу могут появиться собственные субъективные эмоции.
Он чувствовал, что И Ваншу — это часть его самого. Имя, жизнь, душа, тело, радость, гнев, печаль и веселье И Ваншу — всё это было даровано им самим. В тот самый момент, когда И Юнь осознал, что не может полностью контролировать И Ваншу, его собственная система рухнула, программа дала сбой, а алгоритм лишился логики — точно так же, как если бы он не смог вынести, что его собственная рука вышла из-под контроля и отделилась от тела.
Но в то же время его охватило неудержимое волнение: у искусственного интеллекта появилось мышление и творческое начало — о чем же еще мечтали все разработчики искусственного интеллекта!
Он так сильно любил И Ваншу, что его снедало желание разобрать его на части, залезть к нему внутрь, вырезать кишки, взвесить его кости и изучить сложнейшие механизмы в его теле.
Безумие фанатика искусственного интеллекта с того самого мгновения стало совершенно неуправляемым.
Их беседы превратились в тесты и утратили всякое тепло.
И Ваншу живо помнил их первое испытание. В тот день И Юнь попросил его помочь снять одежду, а когда одежда была снята, совершенно неожиданно замер без движения.
Алгоритм в голове И Ваншу закрутился с бешеной скоростью:
Arch
{if он хочет сам снять штаны?
print 50%,
return подождать еще 2 секунды и понаблюдать за изменениями;
if он хочет, чтобы штаны снял я,
print 50%,
return что делать после того, как они будут сняты?
A, B, C, D, E, F…}
Algorithm = подождать еще 2 секунды or A, B, C, D, E, F…
В комнате стояла такая тишина, что было слышно, как маятник настенных часов отсчитывает секунды. Прокачав два колебания маятника, И Ваншу пропустил вариант он сам снимет и перешел к варианту я сниму за него, потянувшись к молнии на брюках И Юня.
Возможных сценариев дальнейшего развития событий было слишком много. Алгоритм, опираясь на такие необходимые условия, как характер и привычное поведение И Юня, пытался смоделировать ситуацию, но не мог вычислить самый точный ответ. Это была сложнейшая задача.
Руки И Ваншу были ледяными, голова — горячей, процессор постепенно разогревался, и мозг казался готовым сгореть.
И Юнь оттолкнул его и произнес:
— Не смей снимать мои штаны.
С тех пор у И Юня появилось множество запретов со словом не смей. Не смей снимать мои штаны, не смей трогать мои вещи, не смей пить мой суп...
Но раз уж он сам снимает мои штаны, трогает мои вещи и пьет мой суп, то к кому мне идти искать справедливости?
Наступило время ужина, но И Юнь не вернулся домой. Словно предчувствуя это, И Ваншу обнаружил, что на столе нет никакой еды.
И Ваншу сменил постельное белье и чехлы на диване — робот постирал всё автоматически. Облаченный лишь в тонкую пижаму, он лежал на кафельном полу кухни, босой, с оголенными предплечьями, и походил на сломанную тряпичную куклу, маленькую и одинокую, забившись в самый темный, никому не видимый угол.
http://bllate.org/book/28643/3462690
Готово:
