AIの本当の危険性、AIでまったく前進していない大きな問題

　人間は、その変化に対応できます。人間は環境の変化に気付き、目的達成がどれくらい可能かわかるので、それに適応することができます。機械はその適応能力が非常に限られています。機械はありとあらゆる種類の情報を提供してくれますが、状況が変化したときどれだけ適応できるかについては限界があります。我々の気分が変わることもあれば、変わるものはほとんどすべての要素です。機械は、人間のようには適応できません。ですから、機械に依存しすぎると大悲劇が起こることがあります

――アメリカで自動運転の自動車が人をひき殺しました。

スローマン　それは典型的な具体例です。それがトレードオフを示しています。自動運転の自動車は、人間の運転手がやらないような方法で人をひき殺すことがあるということです。一方で、人間の運転手は、自動運転の車ならやらないような方法で人をひき殺します。そこに真のトレードオフがあります。

　自動運転についての正しい質問は、「どちらがより多くの人をひき殺すか」ということだと思います。自動運転の自動車は、我々の意図を共有できないか、あるいは共有する点では非常に限られているので、非常に危険なことをするでしょう。しかし、人間よりも危険ではないこともあります。自動運転は居眠り運転をしません。これが明白な例です。

――ということは、いつAIを信じるべきかを知ることが非常に重要になりますね。

スローマン　人間には上から状況を見下ろして、何が起きているかを把握する能力があります。人間はコンピュータ上のループの中で行き止まるようなことはありません。

――ignorant（無知である）という言葉には、否定的な含蓄がありますか？

スローマン　その言葉には2つの含蓄があります。ひとつは「何も知らない」ということです。知るべきことがたくさんあるのに、知っていることは少しであるという意味です。世の中には知っておくべきことがたくさんあるのに、あなたは知らないという意味で、侮辱的な含蓄があります。知っておくべきことを知らないと、バカであると言われます。

　もうひとつは、ネガティブな意味合いはありません。ほかの人が知るべきことに限界があることをわかっていれば、いろいろなプラスの効果があります。ひとつはいい教師になれることです。生徒がどれだけ知らないかを教師が理解することは非常に難しい。しかし、教師は同じテーマに何年もどっぷり浸かっています。生徒はそのテーマについてはまったく初めてなので、あなたが知っているべきだと思っていることを生徒は知っているはずがありません。