Китайская комната

«Китайская комната» – мысленный эксперимент, проведенный Джоном Сёрлем с целью опровергнуть возможность понимания естественного языка искусственным интеллектом. Вот как описывает эксперимент сам Сёрль:

Возьмём какой-нибудь язык, которого вы не понимаете. Для меня таким языком является китайский. Текст, написанный по-китайски, я воспринимаю как набор бессмысленных каракулей. Теперь предположим, что меня поместили в комнату, в которой расставлены корзинки, содержащие все иероглифы китайского языка. Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания знаков китайского языка, причём правила эти можно применять, зная лишь форму знаков, понимать значение знаков совсем необязательно. Например, правила могут гласить: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два».

Представим себе, что люди, понимающие китайский язык, передают в комнату наборы знаков и что в ответ я – манипулируя знаками согласно правилам – передаю другие наборы знаков. В данном случае книга правил – не что иное, как «компьютерная программа». Люди, написавшие её – «программисты», а я играю роль «компьютера». Корзинки, наполненные иероглифами – это «база данных»; наборы знаков, передаваемых в комнату – это «вопросы», а наборы, выходящие из комнаты – это «ответы».

Книга правил написана так, что мои «ответы» на «вопросы» не отличаются от того, как ответил бы человек, свободно владеющий китайским языком. Например, мне могут передать непонятные мне знаки, означающие «Какой цвет Вам больше всего нравится?» В ответ, выполнив предписанные правилами манипуляции, я выдам знаки, означающие, что мой любимый цвет синий, но мне также очень нравится зелёный. Тем самым я выдержу тест Тьюринга на понимание китайского языка. Но на самом деле я не понимаю ни слова по-китайски. К тому же я никак не могу научиться этому языку в рассматриваемой системе, поскольку не существует никакого способа, с помощью которого я мог бы узнать смысл хотя бы одного знака. Подобно компьютеру, я манипулирую знаками, но не могу придать им смысла.

В оценке результатов мысленного эксперимента мнения экспертов разделились.

Одни критики Сёрля считают, что тест Тьюринга выдержан успешно, но не человеком, не понимающим китайского языка, а системой, состоящей из иероглифов, книги правил и человека. Сёрль, по их мнению, отвлекает внимание от этого факта, сосредотачиваясь на одном из компонентов системы, выполняющем в данном случае чисто механическую работу. Система в целом является разумной и понимает китайский язык.

Другие убеждены в том, что не существует отдельно смысла знаков: смысл знаков сводится к правилам применения знаков (семантика сводится к синтаксису). Но если некорректно определены условия эксперимента, то неправилен и конечный вывод.

Станислав Лем в сущности соглашается с Сёрлем: если у Китайской комнаты и есть разум, то он располагается в мозгу разработчика этого мысленного эксперимента, т.е. человека, который создал книгу правил, способную предусмотреть все возможные оттенки смысла иероглифов китайского языка.