Если изменить память, останется ли человек самим собой?

О памяти, идентичности и романе Jonah Whitmore THE MEMORY EDITOR

Мы привыкли считать память свидетельством прошлого.

Можно ошибиться в дате. Можно забыть имя, перепутать последовательность событий или со временем изменить детали воспоминания. Но за всеми этими ошибками обычно сохраняется одно фундаментальное предположение:

то, что я помню как часть собственной жизни, когда-то произошло со мной.

А теперь представим другую ситуацию.

Человек помнит место, в котором никогда не был.

Помнит разговор, которого никогда не происходило.

Помнит человека, которого никогда не встречал.

Причём воспоминание не кажется ему чужим.

Оно ощущается совершенно естественно.

Он не воспринимает его как информацию, полученную извне. Он не сомневается, что сам был участником события. Он помнит детали, испытывает связанные с ними эмоции и может строить дальнейшие решения исходя из того, что произошло в его памяти.

Что произойдёт, если это воспоминание окажется ложным?

И что произойдёт, если оно было создано намеренно?

Память как доказательство

В повседневной жизни память выполняет для нас гораздо более важную функцию, чем простое хранение информации о прошлом.

Мы используем её, чтобы объяснять собственную биографию.

Мы помним детство.

Помним людей, которых любили.

Помним ошибки.

Помним страхи.

Помним решения, которыми гордимся или о которых жалеем.

Из этих воспоминаний постепенно складывается история собственной жизни.

Это случилось со мной.

Я сделал это.

Я любил этого человека.

Я боялся этого.

После этого я изменился.

Таким образом, память связана не только с прошлым.

Она помогает нам объяснять настоящее.

Человек редко воспринимает себя как совершенно случайное существо, возникшее в данный момент. Обычно существует ощущение непрерывности: тот человек, которым я был десять лет назад, и тот, которым я являюсь сегодня, — это всё ещё я.

Между этими состояниями существует связь.

Одним из главных элементов этой связи являются воспоминания.

Поэтому изменение памяти может оказаться гораздо более серьёзным вмешательством, чем простое изменение информации.

Если изменить прошлое в памяти человека, можно изменить не только то, что он считает произошедшим.

Можно изменить его представление о самом себе.

Что произойдёт, если воспоминание можно заменить?

Представим человека, который помнит самый важный момент своей жизни.

Допустим, он помнит встречу с человеком, которого любил.

Он помнит место.

Разговор.

Интонацию.

Даже отдельные мелочи, которые спустя годы кажутся особенно убедительными.

Теперь предположим, что этого события никогда не было.

Не было встречи.

Не было разговора.

Не было отношений.

Но память осталась.

Причём она не просто существует.

Она влияет на настоящее.

Человек принимает решения исходя из неё.

Он доверяет одним людям и не доверяет другим.

Он избегает определённых мест.

Испытывает любовь, страх или чувство вины.

И всё это основано на событии, которого в действительности не происходило.

Возникает странная ситуация.

Ложное прошлое начинает производить реальные последствия.

Можно ли отличить ложную память от настоящей?

Если кто-то сообщает человеку, что его память ошибочна, у него хотя бы появляется причина сомневаться.

Но что произойдёт, если ложная память не будет выглядеть ложной?

Если она будет достаточно подробной?

Если она будет эмоционально убедительной?

Если она будет согласовываться с другими воспоминаниями?

Если окружающие люди тоже будут подтверждать её?

Тогда сама идея проверки становится значительно сложнее.

Человек не может просто открыть собственную память и сравнить её с оригиналом.

У него нет внутреннего архива с двумя версиями прошлого, между которыми можно провести объективное сравнение.

Он располагает только тем, что помнит сейчас.

Именно поэтому проблема памяти быстро превращается в проблему знания.

Как узнать, что произошло на самом деле, если единственное доступное свидетельство внутри твоего сознания может быть изменено?

Память и личность

Здесь начинается уже не только психологический, но и философский вопрос.

Предположим, у человека изменили одно воспоминание.

Можно ли сказать, что изменился сам человек?

Вероятно, многое зависит от того, какое именно воспоминание было изменено.

Если исчезла незначительная деталь детства, последствия могут быть минимальными.

Но если изменить воспоминание о человеке, которого он любил?

Или о предательстве?

О смерти близкого?

О собственном поступке?

О событии, которое стало причиной важнейшего решения?

Тогда изменение памяти может изменить поведение.

А изменение поведения может изменить дальнейшую жизнь.

Получается цепочка:

изменяется воспоминание → изменяется интерпретация прошлого → изменяется настоящее решение → изменяется будущее.

При этом тело человека остаётся прежним.

Его имя остаётся прежним.

Большая часть знаний может остаться прежней.

Голос остаётся прежним.

Но история, которую человек рассказывает самому себе о собственной жизни, уже другая.

Парадокс непрерывности

Здесь возникает ещё один интересный вопрос.

Что именно делает человека тем же человеком с течением времени?

Тело?

Память?

Характер?

Сознание?

Непрерывность опыта?

Или сочетание всех этих факторов?

В философии существует знаменитый парадокс корабля Тесея.

Если постепенно заменить на корабле все детали, останется ли это тот же самый корабль?

А если старые детали собрать отдельно и построить из них другой корабль, какой из двух является оригиналом?

Для человека проблема становится ещё сложнее.

У корабля нет воспоминаний о собственной истории.

У человека они есть.

По крайней мере, человек верит, что они у него есть.

И поэтому появляется дополнительный уровень вопроса:

если изменить воспоминания человека о собственной жизни, меняется ли только его представление о себе — или постепенно меняется и сама личность?

А если две версии прошлого существуют одновременно?

Представим ещё более необычную ситуацию.

Исходные воспоминания человека где-то сохранены.

Позже они оказываются перенесены другому человеку.

Теперь два человека могут помнить одну и ту же жизнь.

Оба могут знать детали детства.

Оба могут помнить одних и тех же людей.

Оба могут испытывать эмоциональную связь с одинаковыми событиями.

Оба могут утверждать:

«Это моя жизнь».

Но чьей она является?

Человека, который физически прожил эти события?

Человека, который сейчас помнит их?

Или память вообще не даёт достаточного основания для ответа?

Возможно, проблема заключается в самом предположении, что у личности обязательно должна существовать единственная непрерывная версия прошлого.

Почему эта идея особенно естественно возникает в научной фантастике

Фантастика часто берёт технологическую возможность и доводит её последствия до предела.

Что произойдёт, если человек сможет перемещаться во времени?

Что произойдёт, если можно будет создавать копии сознания?

Что произойдёт, если искусственный интеллект получит тело?

Что произойдёт, если воспоминания станут редактируемыми?

Последний вопрос интересен тем, что технология не обязательно должна выглядеть фантастически.

Необязательно представлять огромную машину, которая переписывает мозг целиком.

Достаточно изменить несколько ключевых воспоминаний.

Одно воспоминание о любви.

Одно воспоминание о страхе.

Одно воспоминание о предательстве.

Одно воспоминание о собственном поступке.

Человек продолжит жить.

Но его решения могут стать другими.

И тогда вмешательство в память превращается в способ влиять на будущее человека, не отдавая ему прямых приказов.

Именно здесь начинается THE MEMORY EDITOR

Эта проблема лежит в основе психологического научно-фантастического триллера Jonah Whitmore THE MEMORY EDITOR.

Роман начинается с простого, но тревожного предположения:

что если одно из самых важных воспоминаний человека никогда не было его собственным?

Сначала противоречия могут показаться незначительными.

Деталь, которой не должно быть.

Место, которое кажется знакомым, хотя человек никогда там не был.

Человек, присутствие которого невозможно объяснить.

Но постепенно возникает более серьёзная проблема.

Если воспоминания противоречат реальности, чему следует доверять?

Собственной памяти?

Другим людям?

Документам?

Физическим доказательствам?

Или, возможно, ни одному из этих источников полностью?

В таком расследовании каждое воспоминание может оказаться уликой.

Но каждая улика одновременно может быть частью конструкции.

Самое опасное вмешательство может быть незаметным

Обычно контроль представляется как действие, которое человек способен заметить.

Кто-то заставляет тебя что-то сделать.

Кто-то запрещает тебе что-то делать.

Кто-то скрывает информацию.

Но манипуляция памятью работает иначе.

Если человеку сказать, что он чего-то не помнит, он может начать искать потерянную информацию.

Если же заменить исходное воспоминание другим, человек может даже не знать, что чего-то лишился.

Он продолжит жить.

Доверять.

Любить.

Бояться.

Принимать решения.

И считать собственное прошлое достоверным.

В этом заключается одна из самых тревожных возможностей изменения памяти:

чтобы изменить решение человека, необязательно контролировать его настоящее, если можно изменить его прошлое.

Где заканчивается память и начинается личность?

Это, пожалуй, главный вопрос.

Если человеку удалить воспоминание о событии, которое определило его характер, станет ли он другим?

Если вернуть это воспоминание спустя двадцать лет, вернётся ли прежний человек?

Если заменить половину его автобиографических воспоминаний, где проходит граница между старой и новой личностью?

А если человек никогда не узнает об изменении?

Можно ли вообще утверждать, что изменение произошло?

Или для личности имеет значение не объективная история, а только та версия прошлого, которую сознание воспринимает как собственную?

Тогда возникает ещё более странная возможность.

Возможно, человек не столько хранит свою личность в памяти, сколько постоянно реконструирует её с помощью памяти.

Мы не просто вспоминаем, кем были.

Мы используем воспоминания, чтобы решить, кем считаем себя сейчас.

Почему прошлое может быть недостаточно надёжным

В этом смысле вопрос THE MEMORY EDITOR не ограничивается фантастической технологией.

Даже без устройства, способного редактировать память, остаётся фундаментальная проблема:

мы воспринимаем прошлое не непосредственно, а через воспоминание о нём.

Прошлое нельзя заново пережить и проверить так же, как эксперимент.

Можно сравнивать свидетельства.

Можно искать документы.

Можно сопоставлять фотографии.

Можно спрашивать других людей.

Но субъективное воспоминание остаётся частью внутренней истории человека.

И если эта история определяет его решения, то граница между памятью и идентичностью становится очень тонкой.

Что остаётся от человека, если изменить его прошлое?

Возможно, тело.

Возможно, характер.

Возможно, привычки.

Возможно, знания.

Но если убрать воспоминания о людях, которых он любил, изменится ли его отношение к ним?

Если убрать память о страхе, останется ли прежний страх?

Если изменить память о предательстве, будет ли человек продолжать не доверять?

Если удалить воспоминание о решении, которое изменило его жизнь, останется ли прежний смысл этого решения?

И наконец:

если человек помнит жизнь, которой никогда не жил, становится ли эта жизнь частью его личности?

Однозначного ответа здесь нет.

И именно отсутствие простого ответа делает проблему интересной.

Память как граница между прошлым и настоящим

Фантастика часто спрашивает, что произойдёт, если мы получим власть над временем.

Но, возможно, для этого не обязательно менять само время.

Достаточно получить власть над тем, как человек помнит прошлое.

Тогда прошлое продолжит существовать объективно.

События останутся такими, какими они были.

Но человек будет жить уже внутри другой версии этих событий.

Для него эта версия станет настоящей.

И если он не сможет обнаружить различие, то практическая граница между реальным прошлым и созданным воспоминанием окажется почти невидимой.

Это превращает память в нечто большее, чем архив.

Она становится частью механизма, с помощью которого человек определяет собственную реальность.

Последний вопрос

Представим, что однажды вы обнаружили доказательство того, что одно из важнейших воспоминаний вашей жизни невозможно.

Вы проверяете документы.

Разговариваете с людьми.

Находите фотографии.

Пытаетесь восстановить события.

Но чем глубже вы ищете, тем больше противоречий обнаруживаете.

И тогда возникает вопрос, который значительно страшнее первоначального:

если ваше прошлое было изменено, кто вы были до этого изменения?

Но даже это ещё не конец.

Потому что остаётся последний вопрос:

если вы не можете полностью доверять собственным воспоминаниям, на каком основании вы уверены, что человек, которым вы являетесь сегодня, — это тот же человек, которым вы были вчера?

Именно в этой точке проблема памяти превращается в проблему идентичности.

А проблема идентичности — в вопрос о том, что вообще делает нас самими собой.

THE MEMORY EDITOR

THE MEMORY EDITOR — психологический научно-фантастический триллер Jonah Whitmore о памяти, идентичности, сознании и возможности изменённого прошлого.

What if your memories were never yours?

Иногда самая опасная ложь — это не то, что кто-то говорит вам.

Это то, что ваш собственный разум помнит как правду.

Jonah Whitmore

Автор The Memory Editor Series, The Unchosen Series и самостоятельных романов.

Официальный сайт автора: jonahwhitmore.wordpress.com

Фрэнка Герберта часто читают как автора большой политической и философской фантастики. В «Дюне» есть всё, что обычно ожидаешь от масштабного романа: империя, великие дома, заговоры, религиозные движения, война за ресурсы и планета, от которой зависит судьба цивилизации.

Но история Пола Атрейдеса интересна ещё и по другой причине.

Пол получает то, о чём многие люди мечтали бы: возможность видеть варианты будущего.

И постепенно обнаруживает, что знание будущего может оказаться не освобождением, а ловушкой.

Это особенно заметно, если смотреть не на «Дюну» как на историю избранного героя, а на конкретные решения Пола и последствия этих решений.

Пол начинает как человек, который ещё не знает собственной судьбы

В начале романа Пол Атрейдес — не мессианская фигура, которой он станет позднее.

Он сын герцога Лето Атрейдеса.

Он обучается у нескольких наставников: Гурни Халлека учит его военному делу, Дункан Айдахо — бою, Туфир Хават — стратегии и наблюдательности, а Джессика передаёт ему дисциплину Бене Гессерит и обучает голосу.

При этом Джессика нарушила указание Бене Гессерит, родив Лето сына вместо дочери.

Пол уже с самого начала оказывается результатом нескольких пересекающихся планов.

Его родители имеют свои ожидания.

Бене Гессерит имеют собственную программу селекции.

Император имеет политические интересы.

Дом Харконнен строит планы против Атрейдесов.

Сам Пол пока пытается понять, кем он является.

Именно поэтому последующее превращение Пола в фигуру, которую окружающие начинают воспринимать как мессию, выглядит особенно интересно.

Он не просто получает власть.

Он попадает в уже существующую систему ожиданий.

Арракис меняет правила игры

Перелом происходит после переезда Атрейдесов на Арракис.

Герцог Лето получает управление планетой, официально заменяя Харконненов.

Но это назначение оказывается ловушкой.

Харконнены не собираются мириться с потерей Арракиса.

В результате предательство доктора Юэ, нападение Харконненов и сардаукаров и гибель герцога Лето уничтожают прежний мир Пола.

Пол и Джессика вынуждены бежать в пустыню.

И именно здесь начинается самое важное изменение героя.

До этого Пол пытается понять будущее.

После катастрофы ему приходится действовать внутри него.

Это принципиальная разница.

Предвидение перестаёт быть любопытной способностью.

Оно становится проблемой.

Видение будущего не показывает Полу одну простую дорогу

Одна из наиболее интересных особенностей предвидения Пола заключается в том, что он видит не просто набор будущих фактов.

Перед ним возникают возможные направления развития событий.

В его видениях появляются война, фримены, его собственная роль и огромный конфликт, который позднее получит название джихада.

Но знание не означает полного контроля.

Пол не получает карту, на которой написано:

«Сделай А, потом Б, потом В».

Он видит последствия и пытается выбирать между ними.

И чем больше он узнаёт, тем сложнее становится его положение.

Потому что некоторые варианты оказываются настолько страшными, что он пытается их избежать.

Но сам процесс выбора начинает вести его именно в сторону этих событий.

Почему фримены так важны для судьбы Пола

После встречи с фрименами Пол получает не просто новых союзников.

Он попадает в культуру, в которой уже существует ожидание определённого спасителя.

Бене Гессерит ранее распространили среди разных народов легенды и религиозные мотивы, которые могут помочь их представительницам в будущем.

На Арракисе эти идеи получают конкретную форму.

Фримены способны увидеть в Джессике и Поле признаки давно ожидаемой фигуры.

И здесь возникает один из важнейших механизмов романа.

Пол не создаёт миф с нуля.

Он входит в миф, который уже существовал до него.

Это делает его положение гораздо сложнее.

Если Пол отказывается от роли, окружающие могут продолжить интерпретировать его поступки через уже существующее пророчество.

Если он принимает роль, он получает власть.

Но вместе с властью получает и ответственность за последствия.

Муад'Диб — это не просто новое имя

После того как Пол становится Муад'Дибом, происходит не просто смена имени.

Меняется его положение внутри общества.

Фримены начинают видеть в нём лидера.

Пол приобретает политическую и военную силу.

Но одновременно происходит ещё кое-что.

Он всё лучше понимает, что его победа может иметь последствия далеко за пределами Арракиса.

Он видит возможность джихада, который будет распространяться во имя его имени.

И здесь роман делает необычный ход.

Обычная история героя сказала бы:

герой получает видение великого будущего и использует его, чтобы победить врагов.

Герберт делает наоборот.

Победа Пола становится источником нового страха.

Самая страшная победа

Пол хочет победить Харконненов и добиться справедливости за смерть отца.

Это вполне понятная мотивация.

Он хочет вернуть себе положение, защитить фрименов и свергнуть систему, которая уничтожила его дом.

Но когда его планы начинают осуществляться, появляется цена.

Фримены становятся огромной военной силой.

Пол получает возможность бросить вызов самому императору.

Однако вместе с этим растёт вероятность войны, которую он уже не сможет полностью контролировать.

И здесь возникает главный парадокс романа:

Пол получает власть именно потому, что умеет видеть опасные последствия своих действий — но власть не позволяет ему просто отменить эти последствия.

Джессика тоже является частью этой проблемы

Очень важно, что Герберт не ограничивает тему предопределённости одним Полом.

Джессика постоянно принимает решения, руководствуясь собственными представлениями о том, что необходимо сделать.

Она любит сына.

Она обучает его.

Она пытается защитить его.

Но одновременно она сама является частью системы Бене Гессерит.

Её решения в прошлом помогли появлению Пола именно таким, каким мы его видим.

Получается своеобразная цепочка:

Бене Гессерит планируют будущее.

Джессика отклоняется от их плана.

Пол становится результатом этого отклонения.

Затем сам Пол пытается использовать собственное знание будущего.

И его действия создают последствия, которые никто уже не способен полностью контролировать.

В «Дюне» судьба поэтому редко выглядит как приказ свыше.

Она больше похожа на цепочку человеческих решений.

Почему Пол не может просто отказаться

Здесь находится, пожалуй, центральная проблема романа.

Если Пол видит возможность джихада, почему он просто не отказывается от власти?

Потому что отказ тоже имеет последствия.

Если он уйдёт, ситуация не обязательно вернётся к прежнему состоянию.

Харконнены останутся угрозой.

Император продолжит существовать.

Фримены будут продолжать борьбу.

Пол не находится вне истории.

Он уже стал её частью.

И чем больше он пытается найти путь, на котором цена будет минимальной, тем сильнее сталкивается с тем, что идеального будущего может не существовать.

Это гораздо интереснее простого конфликта «свободная воля против судьбы».

Пол свободен.

Но свобода не означает способность получить любой желаемый результат.

Финальная партия

К концу романа Пол становится достаточно сильным, чтобы бросить вызов императору Шаддаму IV.

С политической точки зрения это кульминация истории.

С философской — кульминация проблемы выбора.

Пол использует положение фрименов, контроль над Арракисом и угрозу уничтожения производства пряности.

Он ставит императора перед необходимостью признать его требования.

Но даже здесь победа не является простой.

Пол должен продолжить игру, которую начал задолго до этого.

Ему приходится принять политический брак с принцессой Ирулан.

Это особенно интересно потому, что роман показывает:

победа не означает получение именно той жизни, которую ты хотел.

Пол добивается власти.

Но его личная жизнь при этом не становится свободной от политических обязательств.

Дуэль с Фейд-Раутой — ещё один выбор

Финальная дуэль Пола и Фейд-Рауты тоже важна не только как сцена действия.

Фейд-Раута — представитель дома Харконненов и один из главных противников Пола.

Их столкновение символизирует конфликт двух наследников, двух домов и двух способов использовать власть.

Но Пол уже не тот человек, который оказался на Арракисе в начале романа.

Он приходит к финалу с огромным количеством знания о возможных последствиях.

Поэтому его решение вступить в последний конфликт выглядит иначе.

Он не просто пытается выжить.

Он завершает политическую конструкцию, которая позволит ему занять место императора.

И вот здесь «Дюна» становится особенно тревожной

Если читать роман как обычную историю героя, финал выглядит как победа.

Дом Атрейдесов возвращает власть.

Харконнены побеждены.

Император оказывается вынужден уступить.

Пол становится новым центром власти.

Но если помнить о видениях Пола, финал становится гораздо менее комфортным.

Он знает, что за его победой может последовать огромное насилие.

Он понимает, что его имя способно превратиться в знамя войны.

Он знает больше, чем большинство окружающих.

И всё равно продолжает движение вперёд.

Поэтому главный вопрос «Дюны» заключается не в том, свободен ли Пол.

Он явно способен принимать решения.

Гораздо интереснее другое:

может ли человек оставаться свободным, когда он знает слишком много о последствиях собственных решений?

Пол не является обычным «избранным»

Современная фантастика часто использует фигуру избранного героя.

Он узнаёт о своём предназначении.

Получает силу.

Побеждает врага.

Спасает мир.

Герберт использует знакомую конструкцию, но постепенно выворачивает её.

Пол действительно оказывается уникальным.

Он обладает способностями, которых нет у большинства людей.

Он действительно получает огромную власть.

Он действительно побеждает.

Но роман не говорит:

«Вот человек, который наконец обрёл полный контроль над будущим».

Наоборот.

Чем сильнее Пол становится, тем больше он понимает цену своего положения.

Он не освобождается от истории.

Он становится её центром.

И это гораздо более мрачная версия истории об избранном герое.

Что тогда остаётся от свободы?

Возможно, ответ «Дюны» находится не в том, чтобы выбрать между судьбой и свободой.

Герберт показывает мир, в котором оба понятия существуют одновременно.

Человек принимает решения.

Но решения имеют причины.

Причины связаны с прошлым.

Прошлое формирует настоящее.

Настоящее создаёт будущее.

А знание будущего возвращается обратно и начинает влиять на настоящее.

Получается замкнутая система.

Но человек всё равно действует внутри неё.

Именно поэтому Пол Атрейдес интересен не как персонаж, который «знает будущее».

Он интересен как человек, который узнаёт цену знания о будущем.

Он может видеть множество дорог.

Но не может сделать так, чтобы каждая дорога привела к желаемому результату.

И, возможно, это одна из самых сильных идей первого романа «Дюны».

Свобода не обязательно означает возможность получить любое будущее.

Иногда свобода — это способность выбрать направление, понимая, что ты никогда не сможешь полностью контролировать то, что произойдёт дальше.

Пол получает необычайную власть над своей судьбой.

Но чем дальше он идёт, тем яснее становится:

увидеть будущее — ещё не значит стать его хозяином.

Именно поэтому «Дюна» остаётся не просто романом о власти, религии и пустынной планете.

Это роман о человеке, который получает возможность заглянуть за пределы настоящего — и обнаруживает, что самое трудное решение всё равно приходится принимать самому.

Что делает человека человеком?

Есть вопросы, которые научная фантастика любит задавать снова и снова.

Может ли машина обладать сознанием?

Можно ли создать искусственную жизнь?

Где проходит граница между человеком и созданным им существом?

Но среди всех этих вопросов есть один, который кажется самым простым — и поэтому оказывается самым трудным:

что вообще делает человека человеком?

Можно ответить: биология.

Человек рождается человеком, обладает человеческим телом, человеческим мозгом и принадлежит к определённому виду.

Проблема начинается тогда, когда фантастика создаёт существо, которое выглядит как человек, говорит как человек, испытывает страх, способно любить, страдать, помнить и мечтать — но человеком не является.

Именно в эту точку помещает читателя роман Филипа К. Дика «Мечтают ли андроиды об электроовцах?» и его знаменитая экранизация «Бегущий по лезвию».

Причём интерес этой истории заключается не столько в том, чтобы определить, кто перед нами — человек или машина.

Гораздо интереснее другой вопрос:

а что, если мы вообще неправильно определили критерий человечности?

Человек как биологический факт

В повседневной жизни нам не приходится долго размышлять над тем, кто является человеком.

Мы видим другого человека и почти автоматически воспринимаем его как субъекта, обладающего собственной внутренней жизнью.

Но это работает только потому, что все люди вокруг нас принадлежат к одному биологическому виду.

Фантастика убирает эту очевидность.

Она создаёт искусственного человека и заставляет нас провести границу.

Вот человек.

Вот андроид.

Вот машина.

Вот сознание.

Но где именно проходит линия?

По внешности?

Тогда достаточно создать идеальную копию человеческого тела.

По происхождению?

Тогда искусственное существо никогда не сможет стать человеком независимо от своих способностей.

По наличию эмоций?

Тогда возникает вопрос: как мы можем достоверно узнать, что другой человек вообще испытывает эмоции?

Мы ведь не видим чужое сознание напрямую.

Мы делаем вывод о нём по поведению.

И здесь возникает проблема, которую «Бегущий по лезвию» превращает в центральный конфликт.

Мы никогда не видим чужое сознание

Я могу сказать, что мне больно.

Вы можете мне поверить.

Но вы не можете непосредственно пережить мою боль.

Вы видите моё лицо, слышите голос, наблюдаете реакцию тела и делаете вывод: этому человеку действительно больно.

С искусственным существом ситуация оказывается почти такой же.

Если андроид говорит:

«Мне страшно»,

что именно должно заставить нас поверить ему?

Если он убегает от смерти?

Если просит не убивать его?

Если вспоминает детство?

Если любит?

Если совершает ошибку?

Каждый из этих признаков можно попытаться объяснить программой.

Но тогда возникает неудобный вопрос.

А человеческое поведение разве нельзя объяснить работой биологии?

Наши эмоции тоже связаны с химическими процессами.

Наши реакции формируются мозгом.

Наше поведение зависит от генетики, опыта, среды и множества факторов, которые мы не контролируем полностью.

Если мы говорим, что машина не может быть сознательной потому, что её реакции запрограммированы, мы должны быть осторожны.

Человек тоже не начинает существовать из абсолютной свободы.

Тест на человечность

В мире «Бегущего по лезвию» существует практическая задача: отличить человека от репликанта.

Это звучит рационально.

Если существуют существа, почти неотличимые от людей, обществу нужен способ их распознавать.

Но любой тест такого рода обладает фундаментальным недостатком.

Он проверяет наблюдаемое поведение, а не внутренний опыт.

Можно проверить реакцию.

Можно проверить память.

Можно проверить эмоциональные ответы.

Можно измерить физиологические показатели.

Но можно ли измерить сознание?

Это проблема не только фантастики.

Даже в обычной жизни мы не имеем прямого доступа к чужому субъективному опыту.

Мы просто привыкли доверять этому опыту у других людей.

Потому что они похожи на нас.

Фантастика нарушает это доверие.

Она показывает нам существо, которое достаточно похоже на человека, чтобы заставить нас сомневаться в собственных критериях.

Почему эмпатия оказывается важнее происхождения

Возможно, самое интересное в истории Дика заключается в том, что способность сопереживать становится одним из главных критериев различия.

На первый взгляд это кажется логичным.

Человек способен представить чужую боль.

Следовательно, способность к эмпатии может быть признаком человечности.

Но здесь появляется парадокс.

Представим человека, который не испытывает сочувствия к другим.

Он биологически человек.

А рядом находится искусственное существо, которое способно страдать, заботиться о другом существе и бояться собственной смерти.

Кого из них мы назовём более человечным?

Биологический ответ будет очевидным.

Философский — уже нет.

И именно здесь фантастика становится интереснее фантастического антуража.

Она перестаёт спрашивать:

«Может ли машина стать человеком?»

И начинает спрашивать:

«Достаточно ли человеку просто быть человеком?»

Самый неприятный момент

В «Бегущем по лезвию» есть ещё одна важная деталь.

Главный герой существует внутри системы, которая заранее сообщает ему, кого считать человеком, а кого — нет.

Это чрезвычайно важное обстоятельство.

Если общество говорит:

«Этот объект не является человеком»,

отношение к нему меняется.

Его можно использовать.

Его можно уничтожить.

Его можно лишить прав.

Само определение становится политическим и социальным инструментом.

И тогда фантастический вопрос превращается в исторически знакомую проблему:

кто получает право определять, кому принадлежит статус личности?

На протяжении истории человечества разные группы людей оказывались исключёнными из определённых категорий прав, достоинства или полноценного общественного признания.

Фантастика переносит эту проблему на искусственных существ.

Так безопаснее для читателя.

Мы можем обсуждать андроида и постепенно обнаружить, что на самом деле разговор идёт о людях.

Репликант как зеркало

В этом смысле репликант интересен не сам по себе.

Он интересен как зеркало.

Мы смотрим на искусственное существо и пытаемся найти отличие.

Но чем дольше смотрим, тем больше вопросов возникает к нам самим.

Почему мы считаем память доказательством личности?

Почему считаем эмоции доказательством сознания?

Почему происхождение должно иметь большее значение, чем субъективный опыт?

Почему способность чувствовать чужую боль должна определять моральный статус?

И наконец:

если мы создаём существо, способное страдать, несём ли мы ответственность за его страдание?

Это уже вопрос не фантастической технологии.

Это вопрос создателя и созданного.

Искусственный интеллект меняет старый вопрос

Сегодня подобные сюжеты воспринимаются особенно интересно из-за развития искусственного интеллекта.

Современные системы могут вести диалог, создавать изображения, писать тексты, анализировать информацию и имитировать различные стили человеческого общения.

Но внешнее сходство поведения ещё не отвечает на вопрос о внутреннем опыте.

Система может убедительно говорить о страхе.

Но означает ли это, что она действительно испытывает страх?

Она может написать:

«Я боюсь исчезнуть».

Но является ли эта фраза свидетельством субъективного переживания или только результатом обработки информации?

Здесь важно не торопиться.

Человеку свойственно приписывать сознание всему, что достаточно убедительно ведёт себя как человек.

Мы видим лицо и ищем за ним личность.

Слышим голос и предполагаем наличие внутреннего собеседника.

Получаем эмоционально окрашенный ответ — и начинаем воспринимать его как выражение переживания.

Фантастика предупреждала нас об этой проблеме задолго до появления современных языковых моделей.

Но существует и обратная опасность

Есть и противоположная ошибка.

Мы можем решить, что искусственное существо не способно иметь внутренний опыт только потому, что оно создано человеком.

Это тоже предположение.

Если однажды появится система, которая будет обладать совершенно иным способом восприятия мира, наши привычные критерии могут оказаться недостаточными.

Возможно, сознание не обязано выглядеть по-человечески.

Возможно, оно не обязано иметь человеческое тело.

Возможно, ему не нужны человеческие эмоции в привычном понимании.

А возможно, никакая машина никогда не станет сознательной.

На сегодняшний день фантастика не может дать нам экспериментальный ответ.

Но она может сделать другое.

Она может заставить нас понять, насколько трудно сформулировать сам вопрос.

Почему «Бегущий по лезвию» остаётся современным

Прошло много лет с момента появления романа Дика и фильма Ридли Скотта.

Технологический мир изменился почти до неузнаваемости.

Но главный вопрос остался прежним.

Мы создаём всё более сложные системы и одновременно пытаемся понять собственную природу.

И чем лучше мы умеем воспроизводить отдельные признаки человеческого поведения, тем труднее становится объяснить, какие признаки действительно являются уникальными.

Возможно, человечность — это не одна способность.

Не интеллект.

Не память.

Не эмоции.

Не язык.

Не тело.

Возможно, она возникает из сложного сочетания всех этих вещей.

А возможно, мы просто ещё не нашли правильного определения.

И тогда самый интересный персонаж «Бегущего по лезвию» — не человек и не репликант.

Самый интересный персонаж — сама граница между ними.

Потому что именно границы заставляют нас определять себя.

Пока существует абсолютное различие между «нами» и «ими», вопрос кажется простым.

Но стоит создать существо, которое окажется прямо на этой границе, — и простого ответа больше нет.

И, пожалуй, именно поэтому хорошая научная фантастика не устаревает.

Она не предсказывает будущее.

Она заставляет нас заново рассматривать настоящее.

И иногда самый тревожный вопрос звучит не так:

«Станут ли машины людьми?»

А гораздо проще:

«Как мы узнаем, что человек — это человек?»

Если наши воспоминания можно изменить — что тогда остаётся от личности?

Если наши воспоминания можно изменить — что тогда остаётся от личности?

Есть странная вещь, которую мы почти никогда не ставим под сомнение: собственную память.

Мы можем не помнить имя человека, забыть разговор, перепутать дату или обнаружить, что какое-то событие вспоминается совсем не так, как его описывают другие. Но даже тогда обычно сохраняется ощущение: это моя память. Значит, это моя история. А значит, это по-прежнему я.

Но что произойдёт, если память перестанет быть чем-то неизменным?

Не если человек просто забудет прошлое, а если воспоминание можно будет удалить, заменить, переписать или создать искусственно?

Именно здесь научная фантастика получает возможность задать один из самых неприятных вопросов о человеческой личности.

Память как доказательство собственного «я»

Мы привыкли думать о личности как о чём-то относительно устойчивом.

У человека меняется внешность, работа, взгляды, отношения, характер. Проходят десятилетия. Ребёнок становится взрослым, взрослый — пожилым человеком. Но между этими разными состояниями существует внутренняя связь.

Эту связь во многом создаёт память.

Я помню, кем был вчера, и поэтому считаю себя тем же человеком сегодня.

Можно сказать, что память выполняет роль внутреннего архива. Она не просто хранит информацию о прошлом. Она связывает отдельные моменты жизни в последовательность.

Без неё остаётся настоящее.

Но исчезает история, которая объясняет, почему это настоящее принадлежит именно мне.

Отсюда возникает любопытная мысль: возможно, личность — это не только то, что происходит с человеком сейчас. Это ещё и рассказ, который человек способен продолжать о самом себе.

А если этот рассказ можно переписать?

Воспоминание не является видеозаписью

При этом фантастическое допущение о редактировании памяти становится особенно интересным, если вспомнить одну простую вещь: человеческая память и без всяких технологий не является точной записью прошлого.

Мы не извлекаем воспоминание из мозга как файл с жёсткого диска.

Каждое воспоминание в некотором смысле восстанавливается заново.

Поэтому два человека могут присутствовать при одном событии и спустя годы помнить его совершенно по-разному. Более того, один и тот же человек способен со временем изменить собственное воспоминание.

Это делает фантастическую идею редактирования памяти гораздо глубже, чем обычный сюжет о «стирании прошлого».

Если память уже изменчива по своей природе, где проходит граница между естественным изменением воспоминания и искусственным вмешательством?

Если человек забыл событие сам — он всё ещё тот же человек.

Если событие удалили у него — ситуация становится гораздо сложнее.

А если вместо него поместили другое воспоминание?

Самая страшная версия — не забыть, а помнить то, чего не было

Удаление памяти кажется очевидной угрозой.

Но, возможно, гораздо страшнее противоположная возможность.

Представим человека, который прекрасно помнит событие, которого никогда не происходило.

Он помнит комнату.

Помнит разговор.

Помнит лицо.

Помнит собственную реакцию.

Он не сомневается в достоверности воспоминания, потому что для него оно является частью личного прошлого.

Что изменится, если ему доказать, что этого события никогда не было?

С точки зрения объективной истории — всё.

С точки зрения субъективного опыта — почти ничего.

Человек действительно пережил это воспоминание, даже если само событие было создано искусственно.

И здесь появляется один из фундаментальных вопросов научной фантастики:

что важнее для личности — то, что произошло на самом деле, или то, что человек считает произошедшим?

На этот вопрос невозможно ответить одной технологической формулой.

«Настоящий» человек и его копия

Эта проблема становится ещё интереснее в историях о копировании сознания.

Допустим, существует технология, которая позволяет создать цифровую копию человека.

Копия получает все воспоминания оригинала.

Она помнит детство.

Помнит родителей.

Помнит первую любовь.

Помнит ошибки.

Помнит страхи.

Она даже помнит момент, когда согласилась на процедуру копирования.

И всё же оригинал и копия существуют теперь отдельно.

Кто из них настоящий?

На первый взгляд ответ кажется очевидным: оригинал.

Но если копия обладает абсолютно теми же воспоминаниями и считает себя тем же человеком, проблема уже не выглядит простой.

Для самой копии нет момента, в котором она могла бы сказать:

«До этого я был другим человеком».

Её субъективная история непрерывна.

Именно поэтому научная фантастика так часто использует копирование, загрузку сознания, искусственные воспоминания и виртуальные личности.

Эти сюжеты позволяют отделить две вещи, которые в обычной жизни мы почти всегда принимаем за одно и то же:

непрерывность информации и непрерывность личности.

Они могут оказаться не одним и тем же.

Можно ли украсть человека, не трогая его тело?

Представим другой эксперимент.

Человеку удаляют воспоминание о близком человеке.

Его тело остаётся прежним.

Его голос не меняется.

Его характер почти не меняется.

Он продолжает жить, работать, разговаривать, смеяться.

Но исчезает конкретная часть его прошлого.

Можно ли сказать, что его жизнь стала другой?

Очевидно.

Но стал ли другим он сам?

Здесь возникает неприятная неопределённость.

Если личность состоит из множества воспоминаний, то удаление одного воспоминания должно немного изменить личность.

Если убрать десять — ещё сильнее.

Если убрать все воспоминания — что останется?

Тело?

Имя?

Набор привычек?

Способность говорить?

Биологический мозг?

Или, возможно, ничего из этого не является достаточным основанием назвать человека тем же самым человеком.

Фантастика любит ставить личность в крайние условия

Именно поэтому тема памяти постоянно возвращается в научной фантастике.

В «Вспомнить всё» проблема памяти становится частью вопроса о том, что делает опыт настоящим.

В «Бегущем по лезвию» память связана с вопросом человеческой идентичности и границей между человеком и искусственным существом.

В «Вечном сиянии чистого разума» удаление воспоминаний превращается в эксперимент над отношениями и эмоциональной историей человека.

В «Чёрном зеркале» технология неоднократно используется для того, чтобы показать, насколько хрупкими становятся привычные представления о личности, когда память, сознание и цифровая информация перестают быть строго разделёнными.

А в современной научной фантастике к этому добавляется ещё один слой: искусственный интеллект.

Если когда-нибудь система сможет хранить огромный объём информации о человеке — его разговоры, фотографии, привычки, решения, сообщения, воспоминания, — возникает вопрос, насколько близко такая система сможет приблизиться к модели личности.

Не к человеку как биологическому организму.

А к его информационному следу.

Но память — это ещё не личность

Здесь легко попасть в ловушку.

Если память настолько важна, возникает соблазн сказать: память и есть личность.

Однако это слишком простое решение.

Человек может потерять часть воспоминаний и всё равно оставаться собой.

Маленький ребёнок почти ничего не помнит из первых лет жизни, но взрослый человек считает себя продолжением этого ребёнка.

Мы каждый день забываем тысячи деталей.

Мы меняем убеждения.

Отказываемся от старых целей.

Приобретаем новые.

Наш характер постепенно меняется.

И всё же существует ощущение непрерывности.

Следовательно, личность, вероятно, нельзя свести к одному компоненту.

Память является частью системы, но не обязательно всей системой.

Возможно, важна не конкретная информация, которую человек хранит, а способ, которым эта информация связана с его нынешним сознанием.

И тогда возникает ещё более сложный вопрос.

Если можно изменить память, но сохранить способность человека самостоятельно принимать решения, останется ли он тем же человеком?

И наоборот: если память полностью сохранена, но способность выбирать исчезла, можно ли считать личность сохранённой?

Свобода выбора начинается там, где заканчивается прошлое?

Здесь тема памяти неожиданно соединяется со свободой воли.

Наши решения зависят от прошлого опыта.

Мы избегаем того, что когда-то причинило нам боль.

Доверяем людям, которые напоминали нам кого-то из прошлого.

Боимся ситуаций, в которых уже потерпели неудачу.

Выбираем профессию, отношения, место жительства и образ жизни не в пустоте, а на основании накопленного опыта.

Если изменить прошлое внутри сознания, можно изменить и будущие решения.

Человек при этом может искренне считать, что принимает решение самостоятельно.

Именно это делает вмешательство в память гораздо более серьёзным, чем простое изменение информации.

Можно изменить не только то, что человек знает.

Можно изменить то, почему он выбирает.

А значит, технология памяти потенциально становится технологией управления выбором.

Это уже не вопрос удобства.

Это вопрос автономии.

Самый интересный конфликт — между правдой и личностью

Представим человека, который узнаёт, что важнейшие воспоминания его жизни были искусственно созданы.

Но эти воспоминания сделали его добрым.

Они сформировали его отношения.

Они заставили его выбрать определённую профессию.

Они привели его к людям, которых он любит.

Теперь перед ним стоит выбор.

Уничтожить ложные воспоминания и вернуть себе объективную историю?

Или сохранить их, понимая, что именно они сделали его тем человеком, которым он стал?

Это уже не вопрос технологии.

Это вопрос философии.

Что мы предпочитаем: правду о прошлом или непрерывность собственного «я»?

В реальной жизни подобный выбор почти никогда не формулируется настолько радикально.

В фантастике он становится возможным.

И именно поэтому фантастика оказывается особенно удобным пространством для философского эксперимента.

Она может взять одну идею — «память можно изменить» — и довести её до точки, где привычные определения перестают работать.

Почему эта тема не устаревает

Технологии меняются.

Меняются компьютеры, нейросети, интерфейсы, способы хранения информации.

Но проблема остаётся.

Мы по-прежнему хотим знать, кто мы.

И по-прежнему связываем ответ с собственным прошлым.

Возможно, поэтому истории о памяти продолжают работать даже тогда, когда описанные в них технологии кажутся фантастическими.

Нам не обязательно верить, что существует устройство, способное удалить конкретное воспоминание.

Достаточно представить такую возможность, чтобы обнаружить странность в собственной повседневной жизни.

Насколько хорошо мы вообще знаем своё прошлое?

Какие события мы помним неправильно?

Какие решения принимаем благодаря опыту, которого уже не можем точно восстановить?

И сколько изменений может произойти с человеком, прежде чем он перестанет считать себя тем же человеком?

Фантастика не обязана давать окончательный ответ.

Иногда её задача — сделать невозможным прежний вопрос.

Мы спрашиваем:

«Кто я?»

А фантастика отвечает:

«А что именно ты называешь собой?»

Если память можно изменить, этот вопрос становится особенно важным.

Потому что, возможно, личность — это не архив прошлого.

Возможно, личность — это тот, кто продолжает выбирать, даже когда сам архив уже нельзя считать абсолютно надёжным.