ホンモノとニセモノの境界

 

　ロボットの感情や理解について、「あたかも……のように振る舞うニセモノ」と「真に……の能力を持っているホンモノ」の違いを考えてみましょう。

　人工知能の研究者たちによく知られている「中国語の部屋」という思考実験を紹介しましょう。これは、米国のジョン・サールという哲学者が、人工知能を批判する観点から提案した思考実験です。

————————————————————————–

　中国語を理解しない、英語を母国語とする人（たとえば英国人とする）が部屋の中にいる。紙に漢字で書かれた質問が、部屋の外にいる人から中の英国人に渡される。英国人は、漢字を意味不明な記号として扱い、部屋の中にあるマニュアルと照合して返事を漢字で書く。もちろん、部屋の中の英国人は質問も回答も理解していないが、マニュアルにしたがって、完璧な答えを返すとしよう。これを繰り返すと、部屋の外の人は中の人が中国語を理解していると判断する。

————————————————————————–

　ジョン・サールの主張は、コンピューターの機能もこの中国語の部屋と同様で、あたかもコンピューターが内容を理解しているかのような応答をする場合も、単にプログラムの指示通りにデータ操作をしているだけで内容を理解しているわけではない……というものです。

　サールの主張には賛否両論があり、いまだにさまざまな角度からの論争は続いています。というのも、これは人工知能の核心の議論だからです。「あたかも……のように振る舞う機械」は真の人工知能（ＡＩ）と言えるか、という問題ですね。別の言い方をするなら、真の理解とは何だろうという問題です。

　中国語をまったく理解しない英国人がマニュアルを見ながら答えを返すのは、単にデータの照合作業であり、中国語の理解とはいえないというサールの主張には説得力があります。

　では、そのマニュアルを、内容は分からないまますべて暗記してしまったらどうか。外から見ると、完璧に中国語を理解しているように見えます。それでもその英国人は自分が他人とやり取りしている中国語の内容を理解していないのは事実です。

　たとえば、受け取った書類にその英国人を侮辱するようなこと（たとえば、君はなんてまぬけなんだ、という意味のこと）が中国語で書いてあっても怒りもせずに平然と答えを返す。なにしろ侮辱されたことが分からないのですから。ただし平然として返す言葉の内容は、マニュアルによって、あたかも怒っているような文面になっているはずですが。

　もう少しこの思考実験を拡張してみましょう。たとえば、英国人が（中国語で）うまい儲け話（たとえば、株の売買）をもちかけられたとしましょう。その儲け話をあたかも理解したように、「是非、是非！」などと、飛びつくような返事を（中国語で）する。それで終わってしまえば―たとえば、証券会社に走りこむような行動をともなわなければ―真に理解しているとは到底言えません。

　アメリカのウィリアム・ロビンソンという哲学者は、このように行動に結びつかない、いわば言葉だけに閉じた理解（のフリ）は真の理解ではないと指摘しています。中国語の部屋にでてくる英国人は、「言葉－言葉」の対応を操るだけで、「言葉－外界」の対応ができない。したがって、サールの言う通り、いかに巧みな受け答えをしても理解はしていないというわけですね。つまり動く能力を持っていなければ、（ロボット用語で言うならアクチュエータを備えていなければ）真の理解には至らないというのです。

　ロビンソンは、さらに、「言葉－外界」のやりとりには知覚（ロボット用語ではセンサー）が必要だと主張します。見たり聞いたり触ったり、ときには味わったり、というような感覚器官が必要だというのです。

　実は、脳は単独では存在しえない―身体と組み合わさることにより初めて機能する、という考え方は、ロビンソンの独自の主張ではなく、今や脳やロボットの研究者の共通認識になっています。つまり、コンピューターだけでは脳の機能を真似できない―感覚や筋肉に相当する機能を持ったロボットにコンピューターを組み込んで初めて脳の機能を模倣できる、ということですね。