Китайская комната

Материал из Википедии — свободной энциклопедии
Перейти к: навигация, поиск

Кита́йская ко́мната — мысленный эксперимент, описанный Джоном Сёрлем, в котором критикуется возможность моделирования человеческого понимания, в частности естественного языка, путем создания «искусственного интеллекта». По сути является критикой теста Тьюринга.

Он был представлен в 1980 году в статье «Разум, мозг и программы» («Minds, Brains, and Programs»). Еще до публикации эксперимент вызвал полемику, поэтому статья содержала ответы на выдвинутые контраргументы. В 1984 году в публикации лекций «Разум, мозг и наука» («Minds, Brains and Science») была представлена формальная версия аргумента. В 1990 году в статье «Разум мозга — компьютерная программа?» («Is the Brain's Mind a Computer Program?») формальная версия аргумента была представлена в более лаконичной форме.

Частным выводом является невозможность полной имитации разума с помощью программ синтаксического анализа, т. н. ботов, что хорошо подтверждается в реальной практике. Типичной попыткой создания такого бота являлся, например, проект "Alice-bot".

Мысленный эксперимент[править | править исходный текст]

В статье «Разум мозга — компьютерная программа?» («Is the Brain’s Mind a Computer Program?») (1980) Сёрль описывает эксперимент следующим образом (цитируется по русскому переводу: «В мире науки», 1990, № 3, с. 7-13):

Возьмём, например, какой-нибудь язык, которого вы не понимаете. Для меня таким языком является китайский. Текст, написанный по-китайски, я воспринимаю как набор бессмысленных каракулей. Теперь предположим, что меня поместили в комнату, в которой расставлены корзинки, полные китайских иероглифов. Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка, причём правила эти можно применять, зная лишь форму символов, понимать значение символов совсем необязательно. Например, правила могут гласить: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два».

Представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов. В данном случае книга правил есть не что иное, как «компьютерная программа». Люди, написавшие её, — «программисты», а я играю роль «компьютера». Корзинки, наполненные символами, — это «база данных»; наборы символов, передаваемых в комнату, это «вопросы», а наборы, выходящие из комнаты, это «ответы».

Предположим далее, что книга правил написана так, что мои «ответы» на «вопросы» не отличаются от ответов человека, свободно владеющего китайским языком. Например, люди, находящиеся снаружи, могут передать непонятные мне символы, означающие; «Какой цвет вам больше всего нравится?» В ответ, выполнив предписанные правилами манипуляции, я выдам символы мне также непонятные и означающие, что мой любимый цвет синий, но мне также очень нравится зелёный. Таким образом, я выдержу тест Тьюринга на понимание китайского языка. Но все же на самом деле я не понимаю ни слова по-китайски. К тому же я никак не могу научиться этому языку в рассматриваемой системе, поскольку не существует никакого способа, с помощью которого я мог бы узнать смысл хотя бы одного символа. Подобно компьютеру, я манипулирую символами, но не могу придать им какого бы то ни было смысла. Этот пример соответствует системе быстрого обучения формальным знаниям для решения типовых задач, которая сегодня стала вытеснять в коммерческих школах аналитическую систему образования. Такие специалисты с программным мышлением способны быстро, не раздумывая, решать задачи из заученного набора, но абсолютно беспомощны в нестандартной ситуации. Аналитическое мышление, используя собственные знания, может путем сопоставления комбинаций символов и анализа порядка в передаваемых сообщениях для ответа, определить устойчивые сценарии их применения, а значит построить классификатор условных понятий и форм применения. Полученную формальную систему можно согласовать с собственной системой знаний, по принципу непротиворечивости перевода высказываний на обоих языках в общем пространстве мышления. В результате мы получим однозначное относительное представление о неизвестном языке, но конкретные характеристики объектов в этом языке останутся неопределенными. Внести определенность можно только калибровочными тестами сличения базовых элементов обоих систем для установления функции их отображения. К этому типу задач относится также установление контакта с разумом иной формы жизни, развившейся в принципиально других физических условиях.

Формализация[править | править исходный текст]

В 1984 году Сёрль формулирует свою идею более формализованно. Он рассматривает следующие предпосылки:

  • Предпосылка 1: Мозг порождает разум.
  • Предпосылка 2: Синтаксиса недостаточно для существования семантики.
  • Предпосылка 3: Компьютерная программа полностью определяется своей синтаксической структурой.
  • Предпосылка 4: Человеческий разум оперирует смысловым содержанием (семантикой).

И делает заключения:

  • Заключение 1: Программы не являются сущностью разума и их наличия недостаточно для наличия разума.
  • Заключение 2: Тот способ, посредством которого человеческий мозг на самом деле порождает ментальные явления, не может сводиться лишь к выполнению компьютерной программы.
  • Заключение 3: То, что порождает разум, должно обладать по крайней мере причинно-следственными свойствами, эквивалентными соответствующим свойствам мозга.

Фактически он опирается на тот факт, что любой мозг является сложной нейронной сетью с глубокой вложенностью, взаимодействующей с системой других аналогичных сетей, и работа всей этой системы, являющейся "большой" системой с бесконечным недетерминированным количеством состояний, по сути и порождающая разум отдельного субъекта, не может быть смоделирована с помощью конечных автоматов любого типа.

Дискуссия[править | править исходный текст]

Мысленный эксперимент вызвал интенсивную дискуссию среди учёных. Были выдвинуты различные доводы против результатов, полученных Сёрлем:

  • Некоторые критики считают, что тест Тьюринга выдержал не робот, а система, состоящая из комнаты, книги правил и робота. Сёрль, по их мнению, отвлекает внимание от этого факта, концентрируясь на одном из компонентов системы, выполняющем в данном случае чисто механическую работу. Система из книги правил, человека и комнаты, по их мнению, является разумной и понимает китайский язык.
  • Другие ставят под сомнение само существование семантики, по мнению авторов этой гипотезы, любое мышление есть всего лишь манипулирование синтаксисом, аналогичное осуществляемому в компьютерах.

Литература[править | править исходный текст]

Примечания[править | править исходный текст]