Глава 2. Двадцать восьмой тест
Се Жуйхань сложил пальцы, подперев подбородок, и холодно оглядел окружающих его пожилых коллег. Шестнадцатилетнего гениального юношу вытащили из общежития на совещание рано утром, и он был крайне раздражён. Доклад о провале теста подлил масла в огонь, доведя его почти до точки кипения.
Атмосфера в конференц-зале была крайне напряжённой, никто не решался заговорить первым.
Се Жуйхань схватил стоявшую рядом чашку кофе, яростно выпил её до дна, а затем с силой швырнул чашку на стол, из за чего раздался громкий стук.
— Тяньшу это ИИ, сочетающий в себе глубокие нейронные сети. Он будет самостоятельно изучать всё, что касается людей. Мы предоставили достаточно мощные вычислительные ресурсы для его нормальной работы. Теоретически у него будет настоящее «человеческое мышление».
Суперинтеллект «Тяньшу» это проект, над которым в настоящее время работает научно-исследовательский институт, который в просторечии называют «Институтом». Несмотря на свой юный возраст, Се Жуйхань является руководителем группы разработчиков, а также главным разработчиком программы «Тяньшу».
— Мы специально набрали группу тестировщиков разного возраста, пола, образования и профессий, чтобы провести для него тест Тьюринга. Но за месяц с начала тестирования мы потерпели двадцать семь неудач! Не две, не семь, а двадцать семь! Другими словами, все тесты провалились! Наша команда разработчиков неоднократно проверяла алгоритмы, но мы не можем понять, в чём проблема! Если бы я точно знал, в чём проблема, она бы всё ещё была там!
Се Жуйхань был в ярости. Остальные участники совещания дружелюбно смотрели на него. Все присутствующие были как минимум на десять лет старше Се Жуйханя. Несмотря на то, что они были коллегами одного уровня, им было трудно не относиться к нему как к ребёнку. Хотя Се Жуйхань был очень талантлив, он сохранил импульсивный и вспыльчивый характер молодости. Все прошли через эту стадию и всегда относились к Се Жуйханю скорее с терпимостью, чем со строгостью.
Се Жуйхань сделал паузу, осознав свою неправоту, пригладил взъерошенные волосы и серьезно сказал: — Если этот путь не работает, это означает, что алгоритм Тяньшу был неправильно разработан с самого начала. Но мы обсуждали, что с общим направлением все в порядке. Поэтому проблема определенно в другом месте.
Он посмотрел на сотрудников тестовой группы: — Где доктор Цинь Кан?
Доктор Цинь Кан это руководитель тестовой группы, зрелый человек с мягким характером. В последнее время у него часто возникали конфликты с молодым и вспыльчивым Се Жуйханем, и каждый раз, когда тест проваливался, Се Жуйхань не мог не срываться на Цинь Кана.
На совещании в институте Се Жуйхань и Цинь Кан должны были присутствовать, но Цинь Кан на этот раз был необычно отсутствующим. Его помощник пришёл к столу для совещаний вместо него.
— Доктор Цинь Кан наблюдает за двадцать восьмым тестом Тьюринга, — сказал помощник.
Се Жуйхань поднял брови: — В сегодняшнем расписании нет тестов.
— Это его личное решение. Он подозревает, что в тесте есть какой-то неизвестный баг, который случайно заметил тестировщик, поэтому на этот раз он хочет максимально исключить такую возможность.
Лицо Се Жуйханя смягчилось. Он предположил, что тот факт, что тест постоянно проваливался, возможно, не был напрямую связан с его алгоритмом, а был связан с ошибкой, возникшей в процессе тестирования, потому что для тестирования суперинтеллекта Тяньшу они специально использовали беспрецедентный метод.
Принцип теста Тьюринга заключается в том, чтобы позволить тестирующему общаться с компьютером и посмотреть, сможет ли компьютер обмануть тестирующего, заставив его поверить, что он человек. Институт внёс изменения и улучшения в тест, не только позволив тестирующим общаться с Тяньшу, но и позволив им общаться лицом к лицу.
На сегодняшний день технология реалистичной голографии стала зрелой, и, просто имплантировав крошечный нейронный коннектор в затылок, можно взаимодействовать с компьютером и испытывать реалистичные виртуальные сцены. Различные игры в реалистичной голографии сейчас в моде, так что традиционные игры с использованием клавиатуры почти уходят в прошлое.
Именно институт использовал реалистичный сценарный подход для тестирования Тяньшу.
Они набрали группу добровольцев в качестве тестировщиков, которых поместили в различные реалистичные сценарии. Некоторые персонажи рядом с тестировщиками были реальными людьми, а некоторые Тяньшу. После завершения каждого сценария все тестировщики должны были полагаться на наблюдение, опыт и интуицию, чтобы определить, какие персонажи были реальными людьми, а какие ИИ. Иногда добавлялась контрольная группа, например, когда в сценарии были только реальные люди или только ИИ, кроме одного тестировщика.
Если доля успешной идентификации превышала определённый процент, это означало, что Тяньшу не прошёл этот тест.
Се Жуйхань был уверен в тестировании и полагал, что его команда обязательно создаст идеальный искусственный интеллект, но результаты тестирования разочаровали его. Двадцать семь тестов, все провалились, страницы отчётов об идентификации тестировщиков просто высмеивали его усилия.
В первых четырёх тестах участвовали профессиональные игроки в го¹ и шахматы, поэтому было решено провести соревнование, и молодой шахматист, сыгранный Тяньшу, уничтожил остальных, и его единодушно назвали ИИ, потому что «у людей не может быть таких вычислительных мощностей».
В следующих пяти тестах Се Жуйхань потребовал, чтобы Тяньшу снизил свою вычислительную мощность, играл за обычного человека и добавил спортивные состязания. Тогда Тяньшу научился проигрывать людям. Однако способ проигрыша в игре был очень грубым, и с первого взгляда было понятно, что это было сделано намеренно, и в результате его снова идентифицировали.
Возможно, Тяньшу был искусственным интеллектом с особенно сильным желанием победить. В последующих семи тестах тестировщики попадали в экстремальные виртуальные среды, такие как тонущий корабль или окружённый штормом остров, но в этих шести тестах Тяньшу показывал неудовлетворительные результаты, будучи либо слишком умным, либо слишком глупым, как будто он вообще не знал, как жить скромно.
В последних десяти тестах Се Жуйхань изменил режим обучения Тяньшу и попросил изменить сценарий на обычную повседневную жизнь, чтобы тестировщики и Тяньшу могли общаться в повседневной жизни и поднимать некоторые спорные темы, чтобы попросить всех их обсудить. Но даже в таком тесте Тяньшу не мог обмануть человеческие глаза. Он либо был слишком нетрадиционным, либо механически повторял чужие точки зрения.
После двадцати шести неудач Се Жуйхань даже задумался о том, чтобы удалить весь Тяньшу. Тяньшу был очень скромным и почтительно попросил Се Жуйханя изменить алгоритм. Но это было легко сказать, Се Жуйхань даже не знал, в чём проблема, как ему вообще что-то менять?
Но если бы проблема была в самом реалистичном сценарии, тогда ему было бы намного легче. Сценарий был создан сотрудниками тестовой группы, может быть, где-то он был сделан грубо и это было заметно с первого взгляда? Хотя Се Жуйхань считал себя человеком, придерживающимся дотошного научного подхода, в этот критический момент он не мог не испытывать некоторую склонность перекладывать вину на других.
— Кто тестировщик на этот раз? — спросил он небрежно. — Этот Юй Шаоцин со 100% точностью идентификации?
Помощник кивнул: — Это он. Только он один на этот раз вошёл в сценарий.
— Это контрольный тест?
— Я не уверен в этом. Сценарий для этого теста был разработан лично доктором Цинь Каном, и он никому не рассказывал подробностей.
Се Жуйхань погрузился в долгое молчание.
Тестировщик Юй Шаоцин миф для тестовой группы института, а для команды разработчиков он синоним кошмара.
Изначально он учился в Калифорнийском технологическом институте, изучая искусственный интеллект, но не получил учёную степень. Он вернулся в Китай и по рекомендации доктора Цинь Кана поступил в институт, участвуя в проекте Тяньшу в качестве тестировщика.
Сначала Се Жуйхань отнёсся к Юй Шаоцину безразлично: что может сделать тот, кто сбежал из страны, даже не получив докторскую степень? Разве он не попал в команду через заднюю дверь благодаря связям с Цинь Каном?
Однако после серии тестов отношение Се Жуйханя постепенно изменилось от презрения к удивлению, а затем к страху. Каждый раз, когда начинался новый тест, Се Жуйхань не мог не думать о том ужасе, которым Юй Шаоцин управлял им.
До сих пор каждый тест Тьюринга, в котором участвовал Юй Шаоцин, успешно идентифицировал ИИ с точностью 100%, что выше, чем у опытного детектива с острым зрением среди тестировщиков. Его существование было своего рода пощёчиной для команды разработчиков, и каждый раз, когда это происходило, в их сердцах отпечатывалась фраза: «ваши разработки ещё далеки от идеала!»
Что касается того, почему Юй Шаоцин добился такой высокой точности, он сам сказал: — На самом деле я не вижу никаких недостатков, но как только я общаюсь с персонажем, сыгранным ИИ, мне становится некомфортно. Я не чувствую этого при общении с реальным человеком.
Объяснение доктора Цинь Кана заключается в эффекте зловещей долины. Внешний вид машины, который больше похож на человеческий, с большей вероятностью вызовет у людей привязанность, но как только он станет похож на человека до определённой степени, это вызовет у людей отвращение. По сравнению с монстрами с преувеличенным внешним видом, люди больше боятся тех вещей, которые «кажутся людьми, но не являются людьми». Например, маленький круглый робот кажется людям милым. Но изысканная кукла, сидящая там и неподвижно смотрящая на вас, немного пугает.
Юй Шаоцин, возможно, именно тот человек, который более чувствителен, и он инстинктивно испытывает страх, когда находится рядом с персонажем ИИ, поэтому его точность идентификации выше, чем у обычных людей.
Доктор Цинь Кан подозревал, что он, возможно, обнаружил какой-то неизвестный баг, о котором не сообщил. В конце концов, Юй Шаоцин специализировался в области искусственного интеллекта во время учёбы в докторантуре².
Поэтому он собирался провести специальный дополнительный тест, пытаясь исключить эту возможность.
— Свяжитесь с доктором Цинь Каном, — сказал Се Жуйхань своему помощнику. — Пусть он подключит изображение реалистичного сценария к конференц-залу. Я хочу лично посмотреть, как проходит тест.
Его острый взгляд скользнул по всем его старшим коллегам: — Все должны посмотреть.
—————————————————————
1.Го – это абстрактная стратегическая настольная игра для двух игроков. Цель игры захватить большую часть территории на доске, чем противник, окружая его камни и захватывая их. У каждого игрока есть камни своего цвета обычно они черные и белые. Игроки по очереди ставят свои камни на пересечения линий (точки) на доске. Если камень или группа камней противника полностью окружены камнями другого цвета, они захватываются и снимаются с доски. Игроки также зарабатывают очки, контролируя свободные точки на доске (территорию), которые окружают их камни. Игра заканчивается, когда оба игрока пасуют подряд, то есть отказываются от следующего хода. Подсчитываются очки, и игрок с наибольшим количеством очков (территория + захваченные камни) побеждает.
2.Докторантура — это высший уровень научного образования, который позволяет студентам углубить свои знания и внести значительный вклад в научные исследования. Докторантура следует после завершения аспирантуры и заканчивается получением учёной степени доктора наук.
http://bllate.org/book/15748/1410323
