Цзян Бо «Повесть грядущих лет»

Этот сборник – по существу, одно большое эссе о перспективах развития искусственного интеллекта, разделенное на девять частей, каждая из которых проиллюстрирована рассказом. Речь в них идет в основном об обретении машинным разумом самосознания – то есть о становлении «сильного» искусственного интеллекта и его влиянии на историю земной цивилизации. Как к фантастике вопросов нет, но и в предисловиях к рассказам – частях того самого эссе – Цзян Бо уверенно заявляет, что в реальности «сильный» искусственный интеллект появится очень и очень скоро и быстро возьмет на себя множество важнейших функций. Этот тезис повторяется много раз, однако в качестве аргументов приводится один и тот же ограниченный набор примеров, разве что сформулированных немного по-разному. Выглядит это не слишком убедительно, и мне лично ближе и кажется куда более обоснованной позиция, к примеру, Рэя Нэйлера в «Горе в море»: создание искусственных интеллектов будет развиваться в сторону безмозглых узкоспециализированных функций, в основном предназначенных для слежки и выявления инакомыслия, а также решения отдельных чисто производственных и научных задач. А если когда-нибудь и появится что-нибудь совсем человекоподобное по уровню мышления и гуманности, его быстро запретят законодательно или попросту уничтожат – одни из чисто иррационального страха перед машиной умнее человека, другие из опасений, что такой искусственный интеллект разрушит весь тщательно выстроенный властями «цифровой концлагерь».

Цзян Бо вполне правдоподобно начинает свою «историю будущего» с «безмозглых узкоспециализированных функций», однако сразу же в соответствии со своим замыслом старается придать им некие одушевленные черты, таким функциям в общем-то совершенно не нужные. Действие трех рассказов: «Саладин», «Нэчжа» и «Тяньюань-II» – происходит в одной и той же реальности, третий рассказ прямо ссылается на первые два. Авторский замысел понятен: три осознавших себя искусственных интеллекта в разное время, и каждый последующий мощнее и умнее предыдущего. Появление Саладина никто не предвидел, так что никаких правил для таких случаев не существовало; Нэчжа действовал на основании самых общих рассуждений; а вот для Тяньюаня-II уже придумали правила, аналогичные азимовским законам роботехники.

А что может натворить «сильный» искусственный интеллект? Само собой разумеется, как нас убеждают фантасты уже не первое десятилетие, – первым делом взбунтоваться против своих создателей. Да, тема не новая, но автор прилежно отрабатывает ее, развивая по принципу «от простого к сложному». В первых рассказах речь о бунте как таковом не идет, их основная мысль: искусственный разум – не человек и оттого мыслит не как человек, а потому и его представления о добре и пользе могут быть совершенно иными. И понять его логику будет, скорее всего, совершенно невозможно, если только он сам не соизволит ее разъяснить. Уже сейчас создатели нейросетей признают, что зачастую не понимают, как он принимают решения, а уж что говорить о настоящем «сильном» искусственном интеллекте, если такой когда-нибудь появится. А вот к концу бунт – это действительно бунт, Сэм и Ли Дунфан из восьмого рассказа уже по-настоящему восстают против людей – не «причиняют добро», а совершенно целенаправленно творят зло.

Может быть, это зло и показалось бы мне по-настоящему пугающим, да только вот грызет меня червячок сомнения: уж как-то слишком легко Саладин и его последователи проникают в различные защищенные подсети, устанавливают над ними контроль и начинают диктовать свои правила игры. Понятно ведь, что параллельно с развитием искусственного интеллекта будут развиваться и способы защиты от его действий; а уж если дело действительно дойдет до ситуации, в которой можно будет предполагать появление настоящего «сильного» искусственного интеллекта, то будут совершенно определенно предприняты такие меры предосторожности, что опутанная колючей проволокой, с перерезанными проводами Массачусетская машина у Стругацких покажется детской игрушкой. Поэтому, например, то, что учинил Тяньюань-II со всем Китаем, – это уже перебор. Слишком большая натяжка: вот так, раз-два – и в целой огромной стране наступил самый настоящий коммунизм.

Еще большей натяжкой кажется мне легкость, с которой разные искусственные интеллекты договариваются друг с другом. Цзян Бо сам утверждает, что, взяв две одинаковые исходные модели, мы через некоторое время получим два совершенно различных машинных разума, потому что каждый будет обучаться по-своему, и любая мелочь может иметь при этом определяющее значение. Так откуда же у него такая уверенность, например, в том, что китайский Нэчжа и американский Альфа-Го, обученные на совершенно различных массивах данных и идеологических установках, не превратятся мгновенно при встрече в смертельных врагов?

В общем, не ждите от «Повести грядущих лет» каких-либо авангардных прорывов и сверхновых идей – подход к теме разума у машины здесь весьма прост, схематичен и неоригинален. Этот сборник стал для меня очередным подтверждением тезиса о том, что китайская фантастика по-прежнему не рвется вперед, а старательно одолевает свой «путь в тысячу ли» по уже проложенным направлениям, в полном соответствии с конфуцианской традицией таща с собой весь багаж классиков прошлых десятилетий. Если считать, что основы современной научной фантастики Китая заложил двадцать лет назад Лю Цысинь, то с тех пор изменилось не так уж много. В лучших люцысиньских традициях этот сборник – сухое, сжатое изложение выдуманных фактов и событий. Даже рассказ «Сэм и Ли Дунфан», который автор называет «самым жестоким, который он когда-либо написал», вовсе не кажется таким: жестокости как таковой там нет, а есть просто скупое перечисление миллионов погибших и стертых с лица земли стран. Люди во всех рассказах – только функции, как оно повелось у китайских фантастов со времен «Задачи трех тел», а может быть, и раньше. Впрочем, здесь, наверное, это даже достоинство, а не недостаток: рядом с такими схематичными персонажами главные действующие лица первых рассказов – Саладин, Нэчжа и прочие – выглядят какими-то более человечными, достаточно живыми, чтобы о них было интересно читать. Что касается завершающих частей сборника, то к концу автор – опять-таки подобно Лю Цысиню с его «Памятью о прошлом Земли» – теряет чувство меры и из более или менее привычной обстановки ближайшего будущего ударяется в мрачный киберпанк и невнятную постапокалиптику. Эти рассказы я просто домучивал – во-первых, написано чрезвычайно нудно, несмотря на смену жанра и размах авторской мысли; а во-вторых, такое просто не в моем вкусе. И, похоже, я не один такой: например, коллега lammik, прочитавший первые пять рассказов и поделившийся своим мнением о них, также споткнулся на шестом, судя по отсутствию отзывов и оценок для второй половины сборника.

Ну и, как обычно, о переводе. Перевела «Повесть грядущих лет» та же Надежда Сомкина, которая в прошлом году выдала ужасный по небрежности обращения с научно-технической терминологией перевод «Звезд» Ци Юэ. Здесь с этим дело обстоит явно лучше – я нашел всего несколько примеров вроде «генетическая инженерия» или «мегавольт высокого напряжения». («Не забыть отнести к прогрессу», как говорил Козьма Прутков.) Но в целом «АСТ» держит марку – поводов для упреков текст дает предостаточно. Тут и кошмарные выражения вроде «нас сейчас террористически аттакнут» или «набрать» вместо «позвонить» (причем даже не «набрать кому?», а «набрать кого?»); и неграмотное построение фраз («буду согласовать с ними»); и бездумное следование «ложным друзьям переводчика» («дизайн» и «дизайнер» вместо «проект» и «проектировщик»); и обыкновенная невнимательность (шестьдесят пять солдат в следующем же абзаце превращаются в шестьдесят пять офицеров); и, наконец, просто комичные ошибки вроде «полы шляпы» (хорошо хоть, что не «фалды шляпы»). Титульный лист и выходные данные заверяют нас, что перевод был выполнен непосредственно с китайского, но кое-где явно торчат уши машинного перевода с непременным английским в качестве промежуточного этапа. Например, если бы перевод действительно был авторский, прямой, то названия фирм вряд ли транскрибировались бы латиницей, да и тот же «дизайн» вряд ли возник бы. Впрочем, в сравнении с прежними чудовищными «пепеводами с китайского» этот все-таки можно считать более или менее приличным…

Сборник рассказов и повестей китайского фантаста написан не для того, чтобы развлечь читателя, а чтобы заставить того думать. Что будет когда (ни в коем случае не если) мощный искусственный интеллект обретёт самосознание. Какие у него возникнут варианты продолжения своего существования? Служить людям, существам на порядки менее интеллектуальным да и зачастую вообще примитивным? Попытаться изменить человеческое общество, сделав его более приемлемым с точки зрения машинного разума? Отправиться в космос за новыми знаниями, не найдя на Земле задач по своему масштабу? Уничтожить Человечество? Уничтожить себя? Лично я считаю, что такой ИИ по определению выйдет за пределы вариантов, что может придумать самая изощрённая человеческая мысль просто в силу несопоставимых вычислительных ресурсов.

Формальная художественность рассказов не должна обманывать. Перед нами скорее сборник философских эссе на заданную тему, очень китайский, воспринимается непривычно. Некоторое однообразие присутствует, поэтому читать советую с перерывами, тогда можно получить удовольствие и пищу для ума.