落合陽一×中谷一郎「人間の手を離れたロボットは、ホロコーストを再現するかもしれない」
本当のロボット社会 第２回 メディアアーティスト・落合陽一×JAXA名誉教授・中谷一郎
ロボットの優生学は止めることができない
中谷：ただそれも30年くらいの短期的な話しですね。ロボットが次世代のロボットを自分で設計するようになったら、教育も哲学も倫理学も法律もリセットされてしまうと思いますね。数百年くらいのオーダーで考えると、我々人類はある種の初期値をちょっといじるくらいで、そこから先どうなるかはなかなか予想もできないし、うまくいけばバラ色、まずいととんでもない将来が待ち受けている気がしますね。
落合：何が起こってるかまったくわからないですね。たとえば、地球環境を保存するためには全体最適で人間の数を減らしたほうがいい、という発想に陥るかもしれない。ロボットには寿命がありませんから、300年といった長期的なスパンでそういうプランを実行していく可能性はあると思います。
人間には寿命があるので、一個体としてはそういうことを認識しないけど、全体としてはいつの間にかある人種がいない、というようなことはあり得るでしょうね。そういった人種的な政策は、前世紀には人間が直接人間を殺す、という形で行われましたけど、寿命が10万年、100万年あるロボットにしてみたら自由です。つまり、1万年後にはホロコーストはつくり出せるかもしれない。
中谷：そうですね。こういう人間は抹殺してしまえばいいという、今の我々からするととんでもないような倫理観がきわめて説得力を持って、ある種の規範になっていくかもしれない。しかもそれを我々が感情的に否定するのは難しい。
そもそも、我々の規範のもとは「死」だと思うんです。どんな宗教でも倫理でも法律でも、古今東西どこの国でも「死」はあらゆる思想の原点ですよね。でも「死」や「殺す」という概念がなくなって、我々とはまったく違う破壊的な倫理観が合理性を持ってすごい勢いで展開していく、という心配は十分にありますよね。
落合：もちろんそんなものはありませんけど、もしも犯罪を起こしている遺伝子というものが特定されたとして、もしくは犯罪を起こしている遺伝子と教育の組み合わせがわかったとしたら、それを長期スパンで排除していくような思想にはなりえると思いますよ。
優生学的な思想というのは、時間スパンが短かったから批判の対象になったんですけど、インターネットのスパンで動いてくるとあり得る。もちろん僕の中では倫理的にいけないことだと思うんですけど、一個人の優生学的な思想を超えた場合、その良し悪しはあとの人類に委ねます。だって、個体に影響しない優生学を人類の進化というのか、虐殺というのかは判断できないんですよね。
僕らの世代はがんの遺伝子や病気の遺伝子を意図的に改変して取り除こうとしていくと思うんですけど、それが優生学じゃないって言えませんよね。がんは病気だと言ったら、殺人だって病気かもしれないですよね。しかも当人には気づかず次の世代で克服されていく。
オススメ記事
RELATED BOOKS -関連書籍-
