Станислав Лем «Тайна китайской комнаты»

Пан Лем был не только талантливым, но и производительным автором. Совершенно мимо меня (оттого и таинственно) прошла его колоссальных объемов публицистика, эссе, заметки по самым разнообразным темам и вопросам. В лучшем случае к сегодняшнему дню я усвоил лишь одну пятую часть творчества польского фантаста и мыслителя в таком амплуа. И так уж совпало, что повторное возгорание во мне интереса к когнитивистике и той ее стороне (во многом из-за ярких эссе и интервью Теда Чана), где ведутся споры о природе (или отсутствии) сознания с прицелом на воссоздание (или невозможность воссоздания) сознательных и разумных черт человека в виде сильного ИИ, привело меня к эссе Станислава Лема «Тайна китайской комнаты».

Если честно, то я удивлен. Удивлен в неприятном смысле. Автор, оставивший такое значимое, мирового масштаба литературно-фантастическое наследие (с целым веером оригинальных приемов и эссе, по форме и воображению пограничных с экспериментами Борхеса и Дика), притом параллельно отметившийся «Суммой технологии» (футурологией здорового человека), написал что-то ну слишком посредственное в отношении «китайской комнаты». Притом эссе вдвойне странно тем, что не очень понятны цель критики Лемом этого мысленного эксперимента, структура самого текста, сбивчивого и ломанного, а рациональные зерна соседствуют с тавтологиями и глупостями невнятного назначения. В общей сумме, кажется, что Лему как одной из ключевых и знаковых фигур в интеллектуальной культуре прошлого века, нельзя было обойти стороной такое громкое событие в близкой ему сфере, но при этом ему представлялось сложным сказать что-то внятное и значимое о таком, казалось бы, простом и пустяковом поводе. Но пройдусь по ключевым тезисам эссе в порядке их изложения автором.

В первой части «Тайны китайской комнаты» Станислав Лем излагает, как и принято, историю вопроса (хотя здесь, скорее, контекст события, с упоминанием имен Дэннета и Хофштадтера), а также делает оговорку по отношению ко всем последующим размышлениям: «Я также не хотел бы произвести такое впечатление, что являюсь якобы умнее всех исследователей этого круга проблем, работающих во всех (без малого) университетских центрах, но amicus Plato, sed magis amica veritas. Если кто-то увидит возможность опровержения моего секционного вывода в пользу Серла, то я буду одновременно очень удивлен и доволен, потому что это совсем невыгодная вещь — возвышаться над собранием мудрецов».

Во втором обрывке писатель вкратце пересказывает сам мысленный эксперимент Джона Серла (характерно, что по пересказу все тех же Дэннета и Хофштадтера: «Он сделал это в вымышленном эксперименте, описание которого я читал два раза для большей уверенности в понимании дела МНОЙ САМИМ: первый раз — в оригинальном труде Д. Р. Хофштадтера и Д. Деннетта “The Mind's I”, a второй — в хорошем немецком переводе “Einsicht ins ich”. — Klett-Cotta Verlag, 1981»).

Далее, в пункте три, автор переводит (и/или редуцирует) «китайскую комнату» до «собирания пазлов» (поначалу непонятно, зачем это дополнительное мысленное экспериментирование, тавтологичное критической стратегии Серла, нужно) — той же ситуации различения синтаксиса и семантики, где пазлы собираются со стороны «рубашки», т. е. нет визуально-смыслового контекста, но есть операциональное соотношение форм для сочетаний отдельных кусочков. Но я сразу обозначу, что при внешнем сходстве, собирание пазлов не может приниматься как вариация «китайской комнаты», т. к. подобная (квази)модификация оставляет в стороне весь пафос, что спрятан за семью иероглифическими печатями и четырьмя синтаксическими стенами. Ведь, во-первых, здесь устраняется коммуникация двух субъектов (или понимающего агента и только как-бы-понимающего-как-бы-агента), в ходе которой необходимо, как бы сам собой, возникает и кровоточит вопрошание о присутствии/отсутствии понимания (ведь в процессе общения всегда подразумевается, что у собеседника присутствует понимание). Во-вторых, сама метафора (аналогия) собирания пазлов как эквивалент языку и коммуникативной активности как таковой — допущение очень и очень спорное. Проблема не только в том, что есть «во-первых», т. е. устранение «прописки» в «китайской комнате» какой-угодно, машинной или человеческой, субъектности (собственно, и в просторах вокруг ориенталистского дворца непонимания — тоже).

Синтаксис в речевых практиках и письменном языке суть не просто набор простых правил, но набор таких простых правил, которые помогают складывать сложные комбинации из ряда повторяющихся (группами, типами) атомарных элементов. Повторяющихся, похожих, идентичных, тождественных друг другу элементов. В современном наборе пазлов может и вовсе не встретиться ни одной точь в точь равной другой по форме детали. Впрочем, это и есть игровой интерес в процессе собирания из этих чудно вырезанных картонок чего-то большего. И лишь с серой оборотной стороны все детальки действительно равны друг другу. Т. е. между пазлами и языковыми единицами есть фатальная разница, ров невозможности подмены одно другим для якобы упрощения эксперимента Серла. Такое «упрощение» попросту стирает содержание «китайской комнаты». Иронично, но Лем, критикуя позицию американского философа языка и сознания за попытку критики ИИ через отсутствие у последнего понимания, сам впал в ситуацию непонимания. Только не понимает польский фантаст не китайского языка (но и его тоже), а саму «китайскую комнату» и ее эвристический посыл. Это будет моей главной претензией к этому эссе Станислава Лема. Он просто-напросто (и я не понимаю, почему, с его-то проницательностью) не понял критикуемого им же текста. Это и есть «во-вторых» — синтакис языка выстроен исключительно на максимазации различий, тогда как синтаксис, во всяком случае, человеческих языков с необходимостью включает минимальную неразличимость, хотя бы периодическую (можно вспомнить для иллюстрации моего сумбурного многобуковия один из эпизодов сериала «За гранью», когда главные герои смогли раздобыть дневник или «дневник» одного из Наблюдателей; сделали они это с целью расшифровать письменный язык этих таинственных существ; правда, как выяснилось при попытке расшифровать их письмена, это не язык, а только лишь «язык» — в нем не оказалось ни одного идентичного, повторяющего и аналогичного какому-либо другому символа; т. е. если в некоторой последовательности символов нет повторов, и единственное общее между ними — это отсутствие иной общности, то такая последовательность не может считаться языком).

В четвертом обрывке свершается кульминация непонимания Лемом тезиса о непонимании (отсутствии семантического уровня) у машин, заточенных только на синтаксические операции: «К атаке на эксперимент Сёрла с китайской комнатой можно было бы подойти иначе, то есть вместо того чтобы переносить дело на эту puzzle, потребовать, например, оставить китайский язык и письмо для того, чтобы заняться греческим, или древнееврейским, или латынью и т.д. без конца. И чем больше этот язык окажется похож на наш хоть на крупицу (скажем, румынский, потому что у него латинский алфавит, или кириллица, потому что она происходит от греческого), тем очевиднее будет, что ВОПРОСЫ, относящиеся к РАССКАЗУ, довольно сильно эти ответы детерминируют, и если бы кто-то (Сёрл) по-прежнему настаивал на китайском, то с ним я тоже справился бы. С помощью синолога, хорошо знающего китайский, к пакету “вопросов” я добавлю специфические». Я не могу понять, как можно не понять, почему Серл выбрал именно китайский язык, чтобы на мысленно-экспериментальном уровне доказать свою гипотезу о непонимании как-бы-думающих-машин в ходе прохождения теста Тьюринга. Джон Серл СПЕЦИАЛЬНО не использует какой-либо из тех мертвых или живых индоевропейских языков, которые упоминает Лем ИМЕННО ПОТОМУ, что благодаря наличию в нас (потенциальному наличию, а реальному как минимум у утомленных опытом и знанием, а также профессиональной интуицией лингвистов) некоторого семантического минимума есть ненулевая вероятность через это стартовое понимание выбраться сквозь тернии синтаксических процедур других родственных языках к их глубинной семантике. С китайским языком такое не прокатит — требуется посредник в лице Розеттского камня или в виде живого переводчика, которые смогут дублировать понимание и сделать для нас благодаря этому возможными эквиваленции смыслов, а, значит, и осмысленное использование синтактического языкового аппарата. *завернул я, конечно... но всем виноват вызвавший во мне недоумение и разочарование пан Лем! ))*

И, наконец, в заключительном, пятом, пункте, Станислав Лем доносит то самое рациональное зерно, а точнее главный критический выпад против «китайской комнаты». Но и здесь не без странностей и сочетания тотального непонимания того, зачем Джон Серл написал свою известную статью, с прозрениями относительно критикуемого мысленного эксперимента. Самое забавное, что Станислав Лем СОГЛАСЕН с основным выводом американского мыслителя — синтаксис автоматически не приносит семантику (спрашивается, зачем весь этот сыр-бор тогда?). Просто польскому интеллектуальному фантасту не нравится то облачение, в котором представлены идеи Серла. Вместе с тем Лем как-то странно приравнивает выводы Серла к якобы наличию у того гипотезы о невозможности сильного ИИ в принципе. Даже в своем основном тексте — «Разум, мозг и программы» — Джон Серл прямо пишет, что разумные и осознающие себя машины не только возможны, НО И БУДУТ СОЗДАНЫ (просто только на основе глубинного изучения функционионирования мозга, отчего ремарка Лема про ракеты и формальные запреты как пощечина Серлу делается весьма некорректной: «на особом месте в моей библиотеке находится книга 1924 года издания, написанная немецким ДОКТОРОМ (но не медицины), который математически, химически и физически доказал в ней полную невозможность космических полетов и даже получения ракетой ускорения, способного преодолеть гравитацию, чтобы она смогла выйти на околоземную орбиту. Это очень хорошее доказательство, «проведенное исключительно формальными средствами»»). Тем не менее Станислав Лем полностью прав, что «китайская комната» рушится под давлением того множества вопросов, которые требуют и реального знания, и жизненного праксиса со стороны человека или машины (самое банальное — вопрос «а который сейчас час», на который нельзя ответить без присутствия понимания). И в самом финале «Тайны китайской комнаты» встречается совсем уж странный и непонятный пассаж (надо бы посмотреть оригинал на польском языке, но не в нем все-таки главная загвоздка текста): «загвоздка в том, что работа всегда асемантично формальна». Думайте о нем, как хотите, но в любой интерпретации этого высказывание оно, по-моему, кажется бессмысленным и сильно ограниченным.

Подводим итоги. Зачем я написал комментарий к маленькой заметке Лема, который почти равен по объему комментируемому тексту? Во многом чтобы напомнить всем нам, что и великие спотыкаются. Притом на чем-то очень простом и слишком банальном. Ведь основная ошибка польского фантаста-писателя в том, что он попросту не удосужился прочесть оригинальное изложение мысленного эксперимента самим Серлом. Из-за этого, читая о нем в пересказе тех, кто заранее критикует позицию американского философа, Лем делает в корне не верные выводы, основанные на кривом и искаженном понимании центрального посылка «китайской комнаты» — проведение всех возможных корреляций и выведение всех возможных правил в некоторой последовательности повторяющихся символов не позволит проникнуть в ее смысловые связи. Станислав Лем делает за Серла вывод о том, что в связи со своим экспериментом Джон Серл необходимо отрицает саму возможность создания сильного ИИ — хотя это неправда. Возможно, именно искаженное восприятие сквозь призму вечных критиков американца-не-знатока-китайского-языка предопределило странный и неказистый выбор инструментов контраргументации Лемом — рассмотренное выше несоответствие пазлов языку и т. д. Но все это не исключило проницательности Станислава Лема, которая даже сквозь странные то ли снобизм, то ли лень польского гиганта позволила прийти к хотя бы частично верным выводам относительно «китайской комнаты» Серла.

(Цитаты взяты из: http://www.alt-future.narod.ru/Lem/Tkk/tkk.htm)