ChatGPT などAI開発は停止すべき!? 「シンギュラリティ」の何が脅威なのか【仲正昌樹】
「ChatGPT」が注目を集めるなか、イーロン・マスクは「少なくとも今後半年間、最先端の人工知能(AI)の開発を停止するよう求める公開書簡に署名した」と話題に。その一方で、自ら進めている対話型AI「TruthGPT」の開発を表明し、「宇宙と自然を理解しようとするAIになる。安全への道のりはそれが一番の近道になるかもしれない」などと説明している。この事態をどう理解すれば良いのか。「シンギュラリティ」に何が脅威なのか。『人はなぜ「自由」から逃走するのか:エーリヒ・フロムとともに考える』の著者・仲正昌樹氏の論考。
■イーロン・マスクらが訴える「AI開発」停止要請
何年か前から、「AIが人間の知性を超える」という「シンギュラリティ」が二〇四五年にやってくるのではないか、ということが話題になっていたが、今年に入って、Open-AIが大規模言語モデルGPT-4を公開し、それに対して、これまで「シンギュラリティ」推進派と見られていたイーロン・マスクが、研究者等と共に、これ以上の性能を備えたAIの開発を停止すべき、との声明を発表するなど、動きが慌ただしくなっている。これに呼応するように、自民党も、AI国家戦略を打ち出しており、その中にAIに対する法規制も盛り込んでいる。「AIが人間の知性を越える」とはどういうことなのか。何が問題なのか。
「AIが人間の知性を越える」という場合、当然、計算処理の速さ・正確さや記憶の容量、同時処理能力、耐久性などのことを言っているのではない。そうした個別の性能ではとっくの昔に凌駕されている。人間にできてAIにできないとされているのは、自らが取り組むべき課題を自発的に設定し、それを解くために、それらの能力を動員することである。今のところ、AIがどれだけ性能がよくても自発的にクリエイティヴな活動をするわけではないので、人間のデザイナーやプログラマーが指示を与えるしかない。
哲学的には、自分にとって関心がある対象を自発的に見出し、それに自分なりの関わり方をしようとする、人間固有の特性あるいは能力は、「志向性 intentionality」と呼ばれる。動物も、ある程度自発的に対象と関わるので、人間ほどではないにせよ、一定の「志向性」はあると見ることもできるが、動物の行動は、種ごとの環境世界との関係によって縛られているし、自分自身がどういう「志向性」を持っているのか自覚することはできないので、たとえ持っているとしても、人間のそれとは決定的に異なる、と言われてきた。人間と動物の「志向性」の違いは決定的なのか、それとも程度の問題にすぎないのかについては、二〇世紀の初頭以来、様々な議論が繰り広げられてきた。