AIの本当の危険性、AIでまったく前進していない大きな問題

　本インタビューの前編では、『知ってるつもり―無知の科学』（早川書房刊）の共著者で、認知科学者のスティーブン・スローマン氏（米ブラウン大学教授）に、「無知」とは何か、どうすれば合理的な知識を得られるか、などについて話を聞いた。後編では、無知である人間がAIの知をどう活用すべきかについて話を聞く。

AI活用の盲点

――知識のギャップを埋める道具としてのAI（人工知能）を、どのように見ますか？　たとえば、医師が最新の医学情報をすべて把握するのは、ほとんど不可能に近いです。その知識がないために誤診になることもあります。誤診が死につながることもあります。しかしAIは、そういう誤診を防ぐことができるかもしれません。

スティーブン・スローマン氏（以下、スローマン）　明らかにAIは有望です。多くの問題を解決しています。AIが非常に有益なツールであることは間違いありません。しかし、我々はその限界を意識しなければなりません。AIには本当の危険があります。限界があります。世の中は信じられないほど複雑です。我々がアルゴリズムで解決できることには限界があります。コンピュータ・サイエンティストは何十年も前から、非常に精巧な方法でそれを証明してきました。

　AIは一般的に「できることはこれだけ」という限度があり、その知能だけに依存することはできません。我々は経験にも依存しなければなりません。もうひとつは、AIがまったく前進していない大きな問題があります。それは意図を共有することです。我々が何かをするときに共同で行うという点で、人間はとても特別です。知識のコミュニティが共同するように、我々はグループとして協力します。ほかの人たちが追求している目的を理解し、我々が追求している目的を彼らが理解していることを知ると、同じ目的を協力して追求することができる、すばらしい能力が我々にはあります。

　非常に年齢が低い子どもでも、これができます。子どもたちは、ほかの人たちが達成しようとしていることを理解して、自分たちがそのプロセスをいかにして助けることができるかを知ることに長けています。しかし、機械はそれがとても拙いのです。たとえば、世界旅行でAからB に移動する場合、ナビゲーションシステムを使っているとします。突然、嵐がやってくるので旅路を変更するという場合、あるいはどんな理由であっても突然変更した場合、ナビはそれを知ることができません。我々の意図が変化する理由は無数にあるからです。