Элиезер Юдковский «Non-Player Character»

Меня очень позабавило то, что в этом рассказе ИИ, стоящий за сторителлингом и характером персонажей, по описанию звучит как немного более продвинутая специализированная версия современных языковых моделей. А это, на секунду, было написано в 2003! И то, как была обыграна все эта идея осознающего себя неигрового персонажа, было действительно хорошо построено.

Хотя конечные размышления главного героя звучат примерно так же убедительно, как первоначальная околомемная реакция Юдковского на василиска Роко. Что окрашивает всю историю в тона неубедительности.

Дело не в том, что идея важности правильно выровненного «доброго» ИИ, которую продвигает Элиезер выглядит как-то фундаметально неправильной. Просто с моей недалекой точки она (и завершение этого рассказа, так как этот комментарий к нему) довольно оторвана от того уровня реальности, который общепринято считается таким, в котором мы обычно живем. Выход за ее приделы также сопровождается повышенным осознанием того, насколько на самом деле чудовищно несправедлива и ужасна и еще пару десятков раз ужасна реальность, в которой мы живем. Лично для меня полное принятие идеи существования разума в безразличной к этому вселенной выходит далеко за пределы того уровня сочувствия, которые я могу предоставить в любой данный момент, одновременно каким-то образом сохраняя минимальным образом смысл собственного существования.

Возвращаясь из странных мест, куда я сам себя завел. Рекомендую прочитать эту штуку хотя бы ради того, что история на самом деле чертовски развлекательная и остроумна. Не худшее, на что можно потратить время.