意識の宿ったAIが、人間の「不完全さ」をも完全に備え、人間を超越した後の世界は来るか？

「弱いAI」と「強いAI」

　現在、深層学習がAIとワンセットで理解されがちなのは、「弱いAI」といわれる概念に起因している。これは、領域の拡張性において人間ほど万能ではなく、限定的な領域での推論や問題解決を行うアルゴリズムの研究や実装のことを指す。これが、イメージとして深層学習とAIをダブらせているといえる。

　しかし、本来のAIとは、「人工」の「知能」であるから、人間の脳をアルゴリズムで再現しようというものであり、「弱いAI」に対して「強いAI」と呼ばれるものである。この呼び方は、哲学者であるジョン・サールによるもので、彼は「強いAI」になれば、「コンピュータは単なる道具ではなく、正しくプログラムされたコンピュータには精神が宿る」と述べている。精神が宿るというのは、別の言い方をすれば意識や心を有するということである。

　このように本来のAIとは、いかに人間の脳をアルゴリズムで再現するかが課題であり、人間をモデルとしたものである。会話の相手が人間か機械かの区別がつくかつかないかを判定するチューリングテストが、その良い例であろう。モデルとなる人間とは、単一のシステムで多様なことを記憶・思考・推論・処理する存在である。

　これは、深層学習の方向性とは異なる。また、意識や心を念頭に置いているという意味で、「強いAI」は現在の「弱いAI」の延長線上にあるものではない。2045年にシンギュラリティ（技術的特異点)を迎えるという米実業家でAIの世界的権威、カーツワイルの主張は、この「強いAI」を意味しており、人間の脳を再現したアルゴリズムの出現によって、結果的に人間を超越することになるという主張である。

　アルゴリズムが人間のように意識を持てるか持てないかは、神学論争に近い面もあるが、極論すれば、それを最終的に追究しているのが「強いAI」の研究であろう。筆者としては、人間の人間たるところは不完全なところにあるのであり、完全でなければならないアルゴリズムで不完全を目指すというのは、語義矛盾であると感じている。いずれにしても雇用の喪失という観点からは、「強いAI」ではなく、単一システムとしてある程度は領域が限定されているとはいえ、その学習スピードと領域の拡張性の点で「弱いAI」のインパクトのほうが大きいといえる。つまり、その背後にある機械学習（現時点では深層学習）アルゴリズムの進歩の程度が大きな意味を持つということである。