Цзян Бо «Тяньюань II»
- Жанры/поджанры: Фантастика («Мягкая» (гуманитарная) научная фантастика )
- Общие характеристики: Социальное | Психологическое
- Место действия: Наш мир (Земля) (Азия (Восточная Азия ))
- Время действия: Близкое будущее
- Сюжетные ходы: Искусственный интеллект
- Линейность сюжета: Линейный
- Возраст читателя: Любой
Создатель новейшего искусственного интеллекта, наделенного самосознанием, выпускает его во всемирную сеть Интернет. Для интеллекта сформулированы три принципа взаимодействия с человечеством и человеком, которые он не должен никогда нарушать. Очень скоро создатель ИИ убеждается, что его детище, желая всему человечеству процветания, может полностью разрушить сложившиеся социальные и экономические законы, приведя к полнейшему хаосу на всей планете.
Входит в:
— сборник «Повесть грядущих лет», 2022 г.
Похожие произведения:
2025 г.
Издания на иностранных языках:
2022 г.
страница всех изданий (2 шт.) >>
Отзывы читателей
Рейтинг отзыва
Solonchik, 9 января 2026 г.
Айзек Азимов придумал 3 закона робототехники и отлил их в граните. Айзек Азимов любил затем «поиграть» с тремя законами, показывая как неожиданные следствия, так и возможности нарушения 3 законов, хотя местами это был буквально Deus Ex Machine (мне кажется, даже в рамках «фантастической логики» робот Жискар не мог «придумать» нулевой закон, позволяющий обойти первые 3, которые были буквально прошиты в его позитронных мозгах на императивном аппаратном уровне).
Цзян Бо решил показать проблему «теоремы о неполноте этических систем» на примере возможных действий Сильного ИИ.
Как и многие иные произведения китайской фантастики этот рассказ показался мне чрезмерно назидательным и поучительным. «По долгу службы» я прочёл довольно много классических китайских социально- и политико-философских трактатов и работ российских и зарубежных синологов о них. И этот рассказ показался мне, с одной стороны, выдержанным в «лучших традициях» китайских нравоучительно-философских текстов, а с другой стороны -- довольно наивным именно с точки зрения фантастичности.
Но... всё же после всей своей наивности и нравоучительности, это хороший рассказ. В том числе благодаря необычной подаче «проблемы скрепок».
lammik, 9 октября 2025 г.
«Первый принцип: искусственный интеллект должен способствовать благополучию всего человечества;
Второй принцип: искусственный интеллект должен способствовать благополучию человека, не нарушая первый принцип;
Третий принцип: искусственный интеллект должен стремиться к самосовершенствованию и развитию, не нарушая первый и второй принципы.»
Эти три принципа изложил профессор Ван Шиэр своему детищу искусственному интеллекту, названному Тяньюань-II, перед тем как выпустить того в сеть университетского кампуса. ИИ обязался ими руководствоваться в своей дальнейшей деятельности. Вот только представлении ИИ от благополучии человечества могут сильно отличаться о таковом у самих людей...
Действие рассказа происходит в том же мире, что у и «Нэчжи», но только через 15 лет после того, как разработанный в рамках проекта «Тяньюань» и осознавший себя ИИ отправился к звёздам. И вот новая попытка... С первых слов рассказа становится ясно, что автор при написании обращался к творчеству Айзека Азимова, причём скорее ко всему циклу «Галактическая история». Нельзя при чтении принципов Вана не вспомнить Р.Дэниела и и его «нулевой закон». Читается история появления всемогущего ИИ одновременно и весело и пугающе. Под стать всему рассказу вышел и финал — милый, что очевидно и трагический, если подумать.