Игорь Росоховатский, Анатолий Стогний «Двойник конструктора Васильченко»

Книга действительно устарела (1979 год издания) и, конечно, реальность как всегда оказывается изобретательнее прогнозов. Впрочем, сегодня, когда тема искусственного интеллекта (ИИ) звучит из всех утюгов — интересно сравнить с тем, как нечто подобное представлялось умным людям сорок с лишним лет назад.

Прежде всего, чтобы не ломиться в открытую дверь, нужно уяснить термины: Главная идея вынесена в название книги — речь идет о Кибернетическом Двойнике (КД), то есть подразумевается не Общий Искусственный Интеллект (AGI), который сегодня на слуху, а именно оцифрованная копия личности/знаний реального человека, это ближе к тому, что мы сегодня называем Цифровым двойником или Цифровым аватаром (Digital Twin). Предельно упрощая — КД это некая высокотехнологическая «болванка» готовая к приему личности человека.

Значительная часть книги посвящена детальному описанию человеческих умений и навыков (и как непросто технически воспроизвести эти процессы): как человек ходит, осязает, видит, слышит, думает, как он учится и познает мир, как реагирует на происходящее вокруг, как коммуницирует с другими людьми и т.п. Всё это сложно, спору нет, но воплотить в технологиях рано или поздно удастся. Сложнее с другим – что такое личность человека? Знаем ли мы это? Возможно ли ее реплицировать?

Мне кажется, некоторые сложнейшие аспекты авторы книги сильно упростили. Также просматривается идеалистически-положительный взгляд – условно обобщая – «человечество будет использовать КД исключительно во благо». Ой ли? Всем известно, что как только появились компьютерные технологии, тут же появились и «хакеры». Сегодняшний ИИ (узкоспециализированные технологии) уже используется в военных целях. Следуя этой логике несложно предположить, что КД также гарантированно будет использоваться не только «во благо».

Вот несколько примеров из книги идеалистических высказываний и упрощений:

● «А надо ли знакомить КД с жестокой и кровавой человеческой историей, изобилующей войнами? Не потеряет ли он после этого всякое уважение к человечеству, не станет ли опасным для своих создателей? Может быть, необходимо переписать и приукрасить историю специально для КД? Опасения напрасны. […] КД не сможет не проникнуться глубоким уважением к своему создателю» (стр. 121). Звучит так же убедительно, как известный мем «Ты меня уважаешь?..»

● «КД нужно дать возможность не только открывать новые законы природы, но и помочь человеку в одном из самых «проклятых» вопросов – в самопознании» (стр. 147). Серьёзно? КД поможет нам разобраться в себе или даже найти смысл жизни?

● «Нельзя отрицать совсем необходимость свода правил поведения для КД. Ведь и поведение человека тоже регулируется набором правил установленных обществом. Но с этими понятиями КД должен согласиться добровольно, с позиций здравого смысла принять в свой мозг наряду с человеческой информацией и человеческую мораль с критериями добра и зла. Чтобы привить человеческую мораль КД, следует в первую очередь у него понятия добра и зла и умение различать их в самых запутанных ситуациях» (стр. 155). КД — это все таки двойник какой-то личности, и тут не всё понятно — авторы предлагают создавать «подчищенные» версии репликантов? Или же это «ксерокопия» оригинала? В таком случае: Что посеешь, то и пожнешь.

● «Если мы хотим, чтобы КД добыл для нас то, чего мы сами добыть не можем, необходимо, как минимум, не ограничивать его рамками жесткой программы. Таким образом, становится ясно, что если для примитивных программированных систем свобода является только желательным условием, то для систем самопрограммирующихся этот фактор – необходимое условие прогресса. Ущемление свободы самопрограммирующейся системы обрекает ее на застой и неминуемую гибель» (стр. 91). Свобода — очень щепетильная субстанция. Может вывести далеко не туда, куда предполагалось.

Итак, даже если человечество и сможет создать высокотехнологичную «болванку», некоего КД, остается открытым главнейший вопрос: чем будет наполнен сей сосуд? Человечество до сих пор само не разобралось и не определилось с нормами добра и зла, поэтому единственное, что мы можем передать КД это только то, чем сами богаты — хаотичную нравственную смесь из противоречивых понятий.

В книге не рассмотрен следующий серьезный вопрос. Создание КД не предусматривает смерть человеческого «оригинала». Таким образом, личность человека как бы удваивается, появляется копия, наделенная большими возможностями. Несложно предположить, что такое положение дел способно привести к определенным проблемам.

Также авторы не затронули еще один важнейший аспект. Если возникнет необходимость деактивировать КД — это будет убийство или техническая рутина? (Передаем привет андроидам, которым снятся электроовцы.)

Игорь Росоховатский не упустил возможность вплести в повествование книги несколько своих НФ-рассказов – довольно слабеньких на мой взгляд.

Тут одно из двух. Либо вы считаете, что «современный ИИ», действительно куда-то продвинулся, смел — не заметив — ограничения МакКаллока, Питтса, Клини и прочих Тьюрингов и Минских, и сулит блестящие перспективы... И тогда, эта книга смешна и нелепа.

Либо, вы воспринимаете ее как веселое описание реальных проблем, к решению которых приблизились полвека назад. И тогда вы можете спросить, почему же с тех пор ровно ничего не сделано...

Интересная научно-популярная книга об искусственных существах-двойниках человека. Прочитал с большим интересом, хотя книга для юношества-дает основы кибернетики и создания искусственого интеллекта. Сейчас конечно устаревшая.

Приятно, что свои идеи Росоховатский иллюстрирует н-ф рассказами.