Цзян Бо «Тяньюань II»
Создатель новейшего искусственного интеллекта, наделенного самосознанием, выпускает его во всемирную сеть Интернет. Для интеллекта сформулированы три принципа взаимодействия с человечеством и человеком, которые он не должен никогда нарушать. Очень скоро создатель ИИ убеждается, что его детище, желая всему человечеству процветания, может полностью разрушить сложившиеся социальные и экономические законы, приведя к полнейшему хаосу на всей планете.
Входит в:
— сборник «Повесть грядущих лет», 2022 г.
Похожие произведения:
страница всех изданий (2 шт.) >>
Отзывы читателей
Рейтинг отзыва
lammik, 9 октября 2025 г.
«Первый принцип: искусственный интеллект должен способствовать благополучию всего человечества;
Второй принцип: искусственный интеллект должен способствовать благополучию человека, не нарушая первый принцип;
Третий принцип: искусственный интеллект должен стремиться к самосовершенствованию и развитию, не нарушая первый и второй принципы.»
Эти три принципа изложил профессор Ван Шиэр своему детищу искусственному интеллекту, названному Тяньюань-II, перед тем как выпустить того в сеть университетского кампуса. ИИ обязался ими руководствоваться в своей дальнейшей деятельности. Вот только представлении ИИ от благополучии человечества могут сильно отличаться о таковом у самих людей...
Действие рассказа происходит в том же мире, что у и «Нэчжи», но только через 15 лет после того, как разработанный в рамках проекта «Тяньюань» и осознавший себя ИИ отправился к звёздам. И вот новая попытка... С первых слов рассказа становится ясно, что автор при написании обращался к творчеству Айзека Азимова, причём скорее ко всему циклу «Галактическая история». Нельзя при чтении принципов Вана не вспомнить Р.Дэниела и и его «нулевой закон». Читается история появления всемогущего ИИ одновременно и весело и пугающе. Под стать всему рассказу вышел и финал — милый, что очевидно и трагический, если подумать.