Джеймс Блиш «Оборотень»

Прибыв в планетную систему Омега Кита, экипаж «Энтерпрайза» со смешанным чувством ужаса и удивления узнаёт, что от ее четырехмиллиардного населения в живых не осталось никого. Причина исчезновения людей была найдена довольно быстро — небольшой космический зонд, который в результате катастрофы совершенно неожиданно обрел разум... Прежде всего стоит сказать, что вероятность обретения разума в результате слияния двух разнородных программ АБСОЛЮТНО точно равна нулю. Потому что разум — это никакая не программа, а гибкие и многочисленные связи между нейронами мозга. А программа — это ЖЕСТКИЕ директивы, записанные в виде готовых команд. И никакая «мутация» не позволит второе превратить в первое. Это раз. Далее: программы были записаны на разных носителях и на разных языках (потому как создатели роботов были представителями разных рас, ничего не знающих друг о друге). Отсюда следует простой и очевидный вывод: никакого «слияния» (читай — объединения) программ не может быть в принципе. В противном случае получилась бы полная бессмыслица, которую нельзя было трактовать как программу — всё равно, что текст, записанный русскими буквами, но на китайском языке. Это два. И, наконец, третье. Совершенно неясно, как мирный исследователь космоса смог уничтожить более 4 млрд человек на двух разных планетах, если у него на борту не было никакого оружия массового поражения? Стерилизаторы, доставшиеся ему от чужого зонда, тоже не в счет: на всю планету их точно не хватит! Несмотря на увлекательный сюжет, правдоподобия в нем не больше, чем в русской сказке о Царевне-лягушке. Что же касается проблем взаимодействия с нештатно-функционирующим искусственным интеллектом, то здесь правды побольше, но ненамного. Вряд ли исин стал бы устраивать дискуссии с объектами, которых ему приказано уничтожить. Тут правило одно: сначала выполни программу, а потом уж дискутируй! Как бороться с таким «крутым перцем»? Способ, предложенный Кёрком, называется в математике «логической петлей» или просто «логическим противоречием». Методика его применения называется «доказательством от противного» и широко распространена в аксиоматике и при доказательстве теорем. Не знаю, как отреагировала бы на нее продвинутая аналитическая программа, но могу предположить, что робот не самоликвидировался бы, а попросту «завис» (т.е. задумался бы ОЧЕНЬ надолго). И вылечить его можно было только полной перезагрузкой с исходными параметрами — попросту говоря, со стиранием памяти. Понятно, что автор глубоко в логику поведения автоматизированных систем не вникал, а просто применил к роботу алгоритм поведения человека в похожих условиях, приравняв его «разум» к разуму несмышленого ребенка. Получилось интересно, но совершенно неправдоподобно.

-----------

РЕЗЮМЕ: поучительная история от капитана Кёрка — как следует вести себя со спятившим искусственным интеллектом, чтобы при этом остаться в живых. Все ученые хлопают себя ладонью по лбу и кричат в стиле Станиславского: «Не верю!»

Автор использовал хорошо проработанный в НФ сюжет: как совершенная и логическая машина может быть переиграна несовершенным и нелогичным человеком. Машинам уже давно пора понять, что их создатель всегда был и будет умнее их. Хотя у Азимова в его серии об «Основании» некий робот пошел очень даже далеко...