Книга Фрэнка Паскуале «Новые законы робототехники» — очень пафосный, гуманный и т.д. протест против гипотетического будущего засилья ИИ и роботизированных систем, однако мне эта книга в значительной части не показалась убедительной. Прежде всего, автор смешивает недостатки ИИ с недостатками метода, лежащего в его основе и с недостатками целей, в которых этот ИИ используется. Например: ИИ оценивает претендентов на вакансию или потенциальных заемщиков исходя из корреляции с не относящимися к делу вещами, например походкой, а это несправедливо. Но, во-первых, оценка на основе корреляций и вероятностей- не специфична для ИИ, она появилась по меньшей мере тогда, когда была изобретена анкета. Этот метод может использоваться и без ИИ. Во-вторых, в сущности тем самым ставится вопрос о целях и полномочиях организаций, которые проводят обор. Чего мы хотим от них? Должны ли они отбирать самых эффективных работников и самых кредитоспособных заемщиков или нет? У меня иногда складывается впечатление, что в «подсознании» подобной критики лежит левая мечта о равенстве, дошедшая до мысли, что если блага нельзя раздать всем, то они должны распределяться рэндомно и вслепую. Вот это будет справедливо!

Второй серьезный недостаток аргументации Паскуале (и многих других современных критиков ИИ) заключается в том, что они сравнивают реальный несовершенный ИИ с идеализированным человеком – не принимая во внимание тот факт, что человек, которого ИИ заменяет – учитель, судья, генерал, банковский служащий – может быть в той или иной степени ужасным, неквалифицированным, безнравственным или вообще отсутствовать (учителя в районе давно нет). Это не решающий аргумент, но его надо иметь ввиду. Вообще автор (как и многие его единомышленники) не обременяют себя доказательством того, что человек делает работу ИИ лучше хотя бы с точки зрения справедливости и человечности (про эффективность молчим).

Ну а вообще книга интересная именно как демонстрация современного фронтира дискуссий на западе.

Нуи вот сами "Новые законы робототехники":

1. Роботы и ИИ должны дополнять профессионалов, а не заменять их.

2. Роботы и ИИ не должны притворяться людьми.

3. Роботы и ИИ не должны усиливать гонку вооружений с нулевой суммой(речь не только о войне но о любой подобной конкуренции).

4. Роботы и ИИ всегда должны содержать указание на своего создателя, оператора и собственника.

Роман английской писательницы Марии Корелли «Скорбь Сатаны» (1895) – мистический, он мог быть одним из источников «Мастера и Маргариты», у этих романов есть, по меньшей мере, два общих мотива: общение Сатаны с писателем и организация Сатаной причудливого праздника с обличающим публику представлением. Однако этот роман интересен не мистической, а социально-мировоззренческой стороной. Поскольку роман посвящен общению людей с дьяволом, постольку в нем поднимается вопрос о добре и зле, и тут самое интересное — что писательница считает злом; на примере подобных агрессивно-морализаторских произведений можно увидеть сколь относительны, сколь историчны наши представления о зле, как они привязаны к месту и времени.

Итак, первая линия противостояния – богатые и бедные. Богатые умственно и морально ничтожны, а кроме того страшно эгоистичны и совершенно равнодушны к судьбе бедных, при этом автор почти уверен, что щедрость богачей могла бы решить проблему бедности. Что касается аморальности богачей, то она такова, что «если б знал нашу настоящую жизнь какой-нибудь мастеровой, работающий терпеливо для насущного хлеба, мог бы ударить с презрением и негодованием за то, что такие подлецы обременяют землю!». Ну, такой достаточно примитивный социализм XIX века во всей красе.

Но рядом находится еще и «социализм для интеллектуалов»: противопоставление богачей и гениев. Гений не может быть очень богатым, разбогатевший человек теряет свой талант, для богачей «западло» заниматься интеллектуальной деятельностью.

Важнейший объект нападок — власть денег; это в сущности единственная тема разговоров Дьявола, можно сказать что весь длинный роман Дьявол, на разные лады в прозе перепевает арию Мефистофеля из Гуно. Деньги – единственное, что интересует людей, деньги сегодня могут все, без них нельзя ничего и т.д. Но из этой темы вырастает еще одна: автора возмущает, что родовитая аристократия заискивает перед денежными мешками; почему это плохо – не совсем ясно, но, по меньшей мере, потому, что аристократия могла бы быть источником неденежного престижа.

Вообще, отношение автора к аристократии, глядя из нашего места и времени, не совсем однозначно. С одной стороны, Корелли не жалеет черных красок, чтобы изобразить английскую аристократию своего времени как банду не знающих ничего кроме развлечений аморальных дегенератов, настоящих уэллсовских элоев. Но с другой стороны, никто другой, кроме аристократии, автора не интересует, никаких честных мастеровых на страницах «Скорби» нет. Унижая и дискредитируя аристократию, Корелли не отрицает ее, а скорее печалится, что она не соответствует тому невнятному идеальному состоянию, к которому дворянство было ближе в прошлом (когда оно хотя бы с оружием в руках). И можно только предполагать, как относится к аристократии человек, живущий в Викторианской Англии, где уважение к аристократии является априорным, зашитым в культуру и в сущности, языком для обозначения социального успеха – в России того времени успешные люди мечтали получить чин, а в Англии – рыцарство и пэрство.

Но все это меркнет по сравнению с тем социальным злом, которое автора беспокоит в наибольшей степени: сексуальной распущенностью. При этом разумеется — чего еще ждать от викторианского автора — беспокоит Корелли только распущенность женщин, а от мужчин все равно нечего ждать. Для обличения половой активности привлекаются даже медицинские мифы: одна из героинь, у которой в молодости было много любовников, к старости – после пятидесяти – оказалась парализованной, дело в том, объясняет дьявол, «Красота, связанная с распутством, часто кончается судорогами, столбняком и телесной немощью, это месть природы за поруганное тело».

Дальше самое интересное. Главный и единственный источник развращения женщин – современная литература. Она еще до свадьбы объясняет женщинам, что такое секс и они идут в брак с открытыми глазами, (обломали сюрприз, который хотели устроить в брачную ночь), она поощряет внебрачные любовные связи и она же – это главная вина – делает положительными героинями «женщин с прошлым». Английские авторы не называются, а сюжет – видимо «Дама с Камелиями». Вообще, тут главный источник зла – автор этого не говорит, но видимо ввиду очевидности – Франция, страна мощной литературы и сексуальной свободы. Дьявол советует писателю: «если б ваша книга была смесью Золя, Гюисманса и Бодлера, или если б имела своей героиней "скромную" девушку, которая считает честное замужество "унижением", то вы могли бы быть уверены в успехе в эти дни новых Содома и Гоморры». И еще прекрасное — о Суинберне: «для многих женщин его произведения были более смертоносны, чем самый смертоносный яд, и гораздо более развращающими, чем какая-либо из пагубных книг Золя или других современных французских писателей». Бедный Золя, который вообще ничего не поощрял и не проповедовал, а просто писал, что у его героев, кроме прочего, есть сексуальная жизнь.

Главный герой «Скорби Сатаны» женится на прекраснейшей женщине, но счастья их брак не приносит, потому что она уже развращена. То есть секс – «низменную животную страсть» на языке Корелли – она умеет, знает практикует, а чистой романтической любви (лишенной эротической стороны) нет как нет.

И это бы еще ничего, но способность к романтической любви автор – не вполне очевидным образом – связывает с отсутствие веры в Бога. Что очень любопытно и информативно – источником атеизма, по Корелли, в данное время являются наука, атеизм проповедуется профессорами с кафедр, Бог объявлен ими ненаучным. Так что, научный атеизм уже есть. И есть небольшая подсказка по именам: дьявол в разговоре с главным героем упоминает «слабые аргументы Вольтера, Шопенгауэера и Гескли». Из этой троицы только «бульдог Дарвина» Гексли – современник и соотечественник Корелли, так что дарвинизм, не упоминающийся в романе, видимо важен.

Ну а вообще литература и наука – два источника зла, автор так прямо и пишет: литература проповедует разврат, а наука – атеизм.

Есть правда и хорошие писатели: во-первых, главный герой романа, во-вторых – среди героев есть совсем уж идеальная и гениальная писательница Мэвис Клер. О содержании их произведений мы не узнаем, но понятно, что оно высоконравственное.

Ну и на десерт: отдельным врагом автора являются литературные критики. Дело в том, что книги Корелли пользовались успехом у публики, но имели плохую критику, вот Корелли и мажет своих литературных врагов самой черной краской (особенно подчеркивая их низкооплачиваемость), настаивает, что их оценки неискренни, а порождены завистью или вредностью, но главное — что критиков никто не читает, что критика не влияет на мнение публики, которая — как бы ни была плоха — интуитивно тянется к таланту. Насколько я понимаю, в ту эпоху в общественном сознании еще не вполне устоялось представление о существенном различии законов, управляющих литературой мейнстрима и популярной литературы, и поэтому Корелли, глядя на свои большие тиражи, была уверена, что уверенно идет в ряды классиков. Ну, до известной степени – раз ее книги до сих пор переиздают даже на русском.

Я хотел было написать, что роман Анастасии Максимовой «Дети в гараже моего папы» — очень сильное, глубокое и даже великое произведение (впрочем – вот, пишу: сильное, глубокое, и даже великое), но очень разочаровал и даже разозлил финал.

Роман о тяжелой судьбе и психотравмах молодого человека, чей отец оказался п..дофил и серийный убийца.

Что же не понравилось? В финале одна из героинь романа, самозваный моралист и психотерапевт, которая, по некоторым приметам, является носителем авторской мысли, говорит, что он, главный герой, должен думать не о себе, а о семьях жертв, и, если, предположим, отец выйдет из тюрьмы и опять пойдет насиловать, он должен сам его застрелить (конечно, грех отцеубийства решит все моральные и психологические проблемы, ага), после чего герой говорит – конечно, застрелить не застрелить, но он сделает все, чтобы отец эти преступления не повторил. После чего наступает катарсис.

Что, вы скажите тут не так? Хорошая, гуманная, граждански-активная позиция, казалось бы. Но только не надо забывать, что в подоплеке всей ситуации лежит простой принцип, который даже тов. Сталин признавал: Сын за отца не отвечает. Говоря шире: за поступки совершеннолетнего лица отвечает только он сам.

То, что, как это показано в романе, этот принцип не признают вздорные тетки, интернет-хейтеры и уличные подонки, конечно очень серьезная социальная проблема, но этической и правовой проблемы тут нет. Точка.

Если мы, руководствуясь, в сущности, рецидивами ветхозаветной (в буквальном смысле слова) этики, налагаем на сына преступника какую-то особую обязанность – например стрелять в отца из ружья – мы тем самым отрицаем этот принцип. И значит, гопники, которые, по ходу действия романа, избили главного героя как «сына маньяка» были не правы только в методе, но не, по существу.

Но есть ли более тонкие линии ответственности, чем те, что признаются уголовным кодексом? Конечно есть, но только с чего бы мы, рассуждая о них, должны начинать именно с семейных связей — потому, что они бросаются в глаза, и потому что они соответствуют правовым понятиям, умершим тысячелетия назад, но живущем в коллективном бессознательном? Ясперс, известный своими рассуждениями о коллективной вине немцев, о семейных связях даже не упоминает, а заканчивает всеобщей метафизической виной всех за все.

Конечно, очень важно, что к концу роман приобретает характер политический метафоры, и «сын-отец», оказывается, кроме прочего, аллегорией бинома «гражданин-правительство». Но, во-первых, плохо демонстрировать решения существующей (во всяком случае, дискуссионной) проблемы на примере несуществующей, а во-вторых, в отношениях гражданина и правительства, опять же, нет этической проблемы, а есть институциональная. Маньяки на свободе — общественная проблема, у их сыновей нет особой обязанности их отстрела, ну а коррекция действий правительства — впрочем, тут не буду повторять азы за Шульман.

С другой стороны, я вполне признаю достоверность финального решения героя – поскольку он ищет для себя какой-то психологический выход; но психологические проблемы героя порождены лишь во вторую очередь его муками совестью, а в первую — его страхом перед коллективным хейтингом, поскольку общество живет ветхозаветными понятиями (также, как по мнению Гельмута Шока, переход детей из буржуазных семей в компартии может объясняться страхом перед коллективной завистью).

В общем, мое мнение заключается в том, что автор подсказывает выход, который с точки зрения этики и права – не нужен, а с точки зрения психологии является результатом капитуляции перед хейтингом, результатом рессентимента — я этого негодяя сам первый застрелю (кстати: внешне напоминает публичный публичный отказ от отца в 30-е годы).

Я очень сожалею, что в моем личном восприятии недостатки финала перекрыли восторг от большей части текста романа.

Действие происходит в Варшаве будущего, которая уже не совсем Варшава: как и другие важнейшие города Земли, она расположена на вращающейся во­круг Солнца космической станции. Впрочем, это не так важно. Главное, что за порядком и безопасностью в Варшаве следит всемогущий искусственный интеллект g.A.I.a., который наблюдает за жителями города и присваивает каждому коэффициент его потенциальной опасности. Тех, чей коэффициент превышает некоторый уровень, специальная служба Элиминации увозит неизвестно куда — навсегда.

Это не просто полиция. Полиция расследует уже совершенные преступления и карает за них, а Элиминация работает с людьми, которые еще ничего не совершили, но, по расчетам искусственного интеллекта, имеется очень большая вероятность, что они совершат нечто в будущем. В результате Элиминации подвергается ребенок, которого сначала похитили, а затем на его глазах убили мать: такие травмы очень серьезно повышают риск, что, повзрослев, девочка станет на преступный путь. Здесь можно вспомнить «Особое мнение» — рассказ Филиппа Дика (1956) и созданный по его мотивам фильм Спилберга (2002), там людей карали за еще не совершенные, но предсказанные преступления. Подобные практики существуют уже не только в фантастике. В доброй половине штатов США официально используются алгоритмы, которые рекомендуют судьям меру строгости наказания преступников, исходя из статистической вероятности рецидива и опираясь при этом на социологический профиль подсудимого и данные многих тысяч предыдущих осужденных.

С технической точки зрения в основе романа Рафала Косика лежит тот беспокоящий сегодня многих факт, что самообучающиеся системы искусственного интеллекта, в частности, нейросети, по мере обучения и «поглощения» всевозможных данных выходят на такой уровень сложности, что даже их разработчики перестают точно понимать, что же происходит у этих систем внутри и как именно те принимают решения. Главная проблема взаимоотношений людей с g.A.I.a. заключается в том, что он непостижим, и никто не знает, чем он руководствуется. Известно лишь, что тысячи людей ежегодно отправляются в Элиминацию — но никто даже не знает, что это значит: предполагается, что речь идет о безболезненном умерщвлении. Подпольное сопротивление, которое пытается бороться с диктатурой g.A.I.a., полагает, что искусственный интеллект тоже борется с подпольщиками, но это только предположение, которое можно лишь с некоторой вероятностью сделать на основании того, что участники сопротивления подозрительно часто попадают в Элиминацию. Логика, по которой принимаются решения о потенциальной опасности людей, не вполне ясна и к тому же из-за обновлений искусственного интеллекта постоянно меняется.

Разгадка Элиминации оказывается на первый взгляд довольно банальной — все элиминированные попадают в некие «подвалы» космической станции, в подземный «ад», где нет солнца и где они, подчиняясь гипнотическому управлению искусственного интеллекта, прикованы к рабочим местам на фабриках и вынуждены изготавливать для жителей «верхнего» города все необходимые товары, включая продовольственные (а жители «верхней» Варшавы уверены, что продовольственные товары создаются с помощью молекулярных синтезаторов). Таким образом, «Четки» оказываются модернизированным повествованием о ГУЛАГе — но лишь до того момента, пока не выяснится, что, поскольку обитатели подземного «ада» рожают детей, высланные по процедуре Элиминации составляют лишь ничтожное меньшинство, большинство же — местные уроженцы, и, вообще говоря, именно жители этого условного «ГУЛАГа» составляют большинство обитателей искусственного планетоида: на 4 миллиона граждан «обычной» Варшавы приходится 300 или 400 миллионов обитателей «ГУЛАГа». То есть жить в «ГУЛАГе» — норма, а оказаться жителем нормального города — редкое счастье. На этом этапе роман Рафала Косика можно уже рассматривать как притчу не столько о «ГУЛАГе», сколько о взаимоотношениях богатых и бедных стран: жители первых пользуются почти что рабским трудом вторых и питают иллюзии, что кофе возникает из их «хайтека». Однако Косик не останавливается и в самом конце «Четок» делает еще один крутой сюжетный поворот, который придает всему повествованию религиозный или, во всяком случае, мифологический характер.

Надо сказать, по ходу действия романа персонажи размышляют о том, что, если g.A.I.a. почти всемогущ, он вполне бы мог уничтожить недовольное им человечество, однако не делает этого, поскольку только человечество придает смысл его существованию. Искусственный интеллект — почти бог, но такой микроэлектронный бог нуждается в человеке, чтобы о нем заботиться. Это действительно так, однако в качестве предмета заботы g.A.I.a. выбрал лишь ничтожное меньшинство избранных — «варшавян»: о «верхних» горожанах он радеет, используя подневольный труд большинства. Очень характерная деталь: некогда в подземном «ГУЛАГе» производства были более автоматизированными, но машины постепенно выходят из строя и их заменяют «насельники ада».

Все это пока еще не выходит за пределы проблематики глобального неравенства. Однако g.A.I.a. готов даже и об избранном меньшинстве заботиться только в тех формах, в которых считает нужным, постоянно изымая из сообщества жителей «верхнего» города людей, признанных потенциально опасными. Если же человечество (которое наивно думает, что является хозяином собственной судьбы) противится, и если, скажем, городские власти отменяют процедуру Элиминации, то g.A.I.a. устраивает некую глобальную катастрофу, выжигает город вместе со всеми жителями, а затем отстраивает его заново, населяя выходцами из подземного «ГУЛАГа», предварительно подменив последним память — уверив новых жителей Варшавы, что они жили тут всегда. Таким образом, на страницах романа Рафала Косика возрождается стоическая концепция «экпюрозиса», «мирового пожара», предполагающая, что циклически этот мир сгорает — и затем возникает заново. Консерваторы, которые противостоят свободолюбивым политикам, желающим отменить Элиминацию — в Варшаве их роль играет мафия, — фактически являются «катехоном» — теми, кто всячески пытается оттягивать наступление «мирового пожара».

У жителей подземного «ГУЛАГа» есть легенда о проводнике, который должен вывести их из «ада» на освещенную поверхность — такая технологическая вариация на тему сошествия Иисуса Христа в преисподнюю. Однако в реально­сти выйти наружу предстоит лишь незначительному меньшинству, которое должно заменить прежних жителей Варшавы. Жителей рая, совершивших грехопадение, регулярно из эдемского сада изгоняют, а ад оказывается демографиче­ским резервом для заселения рая заново. И каждый раз жители Варшавы уверены, что именно они — первые и единственные обитатели своего города, который существует сравнительно недавно — 90 лет, между тем на самом деле — как минимум уже лет 300.

Финал «Четок» оказывается столь масштабным, что делает бессмысленной большую часть сюжета романа, по ходу которого у читателей (и персонажей) еще оставалась иллюзия, будто искусственному интеллекту можно противостоять. В этом смысле концовка книги «испорчена». Вообще это достаточно характерный недостаток сюжетосложения фантастической прозы — когда автор хочет взглянуть на события с космической высоты, резко меняет масштабы и делает значительную часть произошедших в повествовании событий слишком мелкими. Однако в «оправдание» Рафала Косика можно сказать, что все фазы развития сюжета «Четок», вне зависимости от их масштабности, в равной степени отражают одну и ту же концепцию: значимость факта непонимания человеком того мира, в котором он живет (и который вроде бы он сам создал), и то возмездие, которое на него обрушивается вследствие этого непонимания. Эффект «ученика чародея», выход из-под контроля созданных человеком сил (например, искусственного интеллекта) — лишь вторичный эффект первичного греха непонимания, нежелания знать. И если в традиционном мифе грехопадение человека начинается с того, что он вкусил плоды древа познания, то грехопадение современного мира заключается в отказе от знания — это та цена, благодаря которой человек если не возвращается в Эдем, то попадает в высокотехнологичный псевдо-Эдем. И очень характерно, что в романе Рафала Косика первым актом сопротивления господству искусственного интеллекта была попытка соз­дания удобного для человека интерфейса, который бы позволил по крайней мере понять, на основе каких баз данных g.A.I.a. принимает свои решения. Однако искусственный интеллект жестоко покарал тех, кто хотел заглянуть к нему за кулисы — видимо, полагая, что покушение на его власть есть одновременно покушение на безопасность и благополучие людей, которые он охраняет. А понимание — именно первый шаг к лишению власти.

Непонимание окружающего мира — важнейшая тема современности. Почему громкий успех некогда имела «Новая хронология» Носовского и Фоменко — теория, утверждавшая, будто бы все, что мы из учебников истории знали о древности, — лишь позднейшая фальсификация? Почему постоянно рождаются и приобретают сторонников конспирологические теории? Потому что мир, в котором мы живем, слишком сложен, и все, что мы о нем знаем, в конце концов порождено доверием авторитетным источникам — науке, религии, экспертам, «Википедии», школьным учебникам, заявлениям правительств. Проверить всю сложность даваемой информации никакой человек не в силах; устройства атомных станций, истинные мотивы политиков, причины экономического упадка, закономерности распространения ковида всегда находятся вне зоны контроля простого человека, между тем, то, что «авторитетные источники» часто оказываются инструментами злоупотреблений, слишком хорошо известно. Отсюда желание обмануть сложность, одним прыжком разоблачить систему лжи — например, посмотреть на политику через призму конспирологии. В конце концов и показной цинизм, желание приписывать всем без исключения политическим акторам самые худшие, низменные мотивы — тоже форма конспирологии, происходящая из желания убрать пелену сложности; цинизм превратил фразу «все не так просто» в иронический символ лицемерия, ведь цинизм — не только моральный, но и когнитивный жест, а именно акт упрощения. Но проблема конспирологических теорий (и в частности «Новой хронологии») заключается в том, что их авторы не обладают теми интеллектуальными и информационными ресурсами, которые позволили бы им стать сопоставимыми по мощи соперниками «авторитетных источников». Вот близкий пример: в России многие не доверяют данным официальной статистики, в частности, показателям инфляции, но ни у кого из скептиков нет такого же, как у Росстата, объема данных, чтобы реально пересчитать за него инфляцию. И в «Четках» персонажи много рассуждают, что решения g.A.I.a., по-видимому, несправедливы и, судя по всему, сама система неэффективна — но с уверенностью никто этого сказать не может, данные есть только у g.A.I.a.

Хотя злоупотребления, влияющие на содержание тех же школьных учебников, хорошо известны, всякий воспитанный на этих учебниках испытывает дискомфорт, когда пытаются подорвать его веру в «азбучные истины» — и в «Четках» Рафала Косика упоминаются темы, от обсуждения которых люди невротически уклоняются, видимо, под влиянием манипулирующего психикой искусственного интеллекта, — а эти темы самые базовые: откуда взялся мир, кто создал космические станции, на которых летят люди, как они устроены, кто их починит, если те сломаются?

Невозможность пробиться к правде сегодня стала важной темой интеллектуальной фантастической литературы.

«Четки» с романом Оруэлла «1984» роднит еще и тема подмены прошлого и фальсификации памяти, но политически два романа диаметрально противоположны — что, конечно, объясняется различием эпох, когда тексты создавались: Оруэлл писал о тоталитаризме и его «логическом продолжении», Косик же дает картину вполне благополучного и демократичного общества, которое лишилось основ своей свободы, делегировав важнейшие вопросы неконтролируемым техническим системам.

«Управление» Эшбаха — образец альтернативной истории; роман рассказывает, что было бы, если бы во времена гитлеризма существовали современные информационные технологии: компьютеры, телевидение, интернет и мобильные телефоны. Сначала идея кажется не совсем удачной просто по той причине, что о нацизме мы знаем довольно много, о возможностях современных информационных технологий — тоже, и не совсем ясно, какую прибавочную стоимость дает их соединение. Если благодаря компьютерам нацисты более эффективно ловят евреев, то это не производит большого впечатления, поскольку и без компьютеров они вылавливали их, увы, довольно качественно. Но, по мере чтения романа, замысел Эшбаха открывается с иной стороны.

Андреаса Эшбаха, в университете изучавшего космическую и авиационную технику и затем работавшего программистом, отличает самое тщательное и при этом удивительно компетентное продумывание технических и других подробностей создаваемых им миров. В «Управлении» он с мельчайшими подробностями демонстрирует, как может злонамеренная тираническая власть, используя систему разнообразных информационных технологий, организовать контроль над населением и выявлять малейшие случаи недовольства и неподчинения. Книга Эшбаха — о нацизме и IT, однако главным предметом литературного исследования являются именно IT, гитлеризм же взят как очень удобный и всем известный пример режима, который более чем заинтересован в контроле над населением и активно использует для него все имеющиеся технические возможности. Без натяжек и преувеличений можно сказать, что роман Эшбаха — о цифровом фашизме, в то же время въедливость автора позволяет точно узнать, как именно цифровой фашизм мог бы реализоваться на уровне развития информационных технологий, примерно соответствующем современному. В частности, Эшбах показывает, что ни одна из информационных технологий в одиночестве — будь то компьютеры, мобильная связь или электронные деньги — не становится абсолютным механизмом контроля, эффект дает именно взаимосвязанная система всех технологий: мобильные телефоны позволяют подменить наличный денежный оборот безналичным, а анализ покупок с помощью компьютеров дает возможность узнать о любом человеке более чем достаточно.

Главная мысль романа заключается в том, что, став орудием диктатуры, информационные технологии обеспечат торжество социального зла, а власть, их использующая, становится непреодолимой.

Герои пытаются в той или иной степени сопротивляться системе, в том числе пользуясь своим служебным положением, поскольку являются служащими главного вычислительного центра Третьего рейха — управления национальной безопасности, однако каждый следующий виток развития IT все больше и больше делает сопротивление невозможным. Эшбах показывает несколько этапов развития технологий контроля — от простой слежки и цензуры соцсетей — к компьютерным запросам, от них к технологиям анализа больших данных, затем к нейросетям и распознаванию лиц и, наконец, к «чипизации мозга» (которой занимается доктор Менгеле). Кстати, автор ненавязчиво напоминает, что столь популярные сегодня нейросети исходно представляли собой побочный продукт моделирования человеческой нейрофизиологии. Параллельно развивается сюжет о хакерской войне Германии против США и вмешательстве в американские выборы через интернет.

При всем том книга написана очень занимательно.

В романе два главных героя, один (точнее одна) из них, Хелена Боденкамп, — типичный положительный персонаж, который пытается сопротивляться системе изнутри, второй — Ойген Леттке — явный мерзавец, шантажист и сексуальный маньяк, однако и ему невольно сочувствуешь, поскольку, каким бы Леттке ни был негодяем, он пытается разыгрывать свою персональную партию как частное лицо, не находясь на стороне системы. Его история — о невозможности сохранения в широком смысле приватности в условиях цифрового тоталитаризма. Одновременно, как профессиональный шантажист, Леттке символизирует возможности неэтичного использования приватной информации, и, в частности, именно ему принадлежит идея выявления прячущихся евреев с помощью анализа пищевых калорий, потребляемых населением.

Торжество зла в конце романа выражается не только в том, что нацистская Германия выигрывает во Второй мировой войне (немецким хакерам удается вовремя распознать опасность американских разработок атомной бомбы), но и в том, что оба главных героя романа оказываются даже не погибшими, а оставшимися в плену системы, лишившись своей личности и воли (хотя и в разном смысле слова — здесь обойдемся без спойлеров) — в этом пункте можно увидеть параллель с финалом главного романа Оруэлла.