AI＝人工知能、甚大な社会的被害を生む危険…信じられない単純ミス連発も

「例えば、『まったく新しいコンセプトの商品が売れるかどうか』など、これまでに類似例のない状況で、『対象の人間がどう行動するか』を予測するのは、AIには難しい。参考となるデータがないからだ。

　しかし、人間であれば『自分がその状況に置かれたら、どう行動するか』を考え、答えを出すことができる。つまり人間は、その場で人間行動のデータをひとつ生成する、強力なデータ生成器を自分の中に持っているのだ。この『共感力』ともいえる力で、人間は社会に適応したり、社会全体を円滑に運営することができている。

　AIは、コンテンツへのアクセス数などによって、『何が人間を喜ばせるか』といった特徴を抽出することはできる。とはいえ、AIがやっていることを人間に例えると、『自分はまったく共感できないが、経験上、こうすれば相手が喜ぶのでやってあげている』という感じになる。

　これは、人間とのコミュニケーションにおいては『あざとさ』として受け止められるだろう。それは、ECサイトなどで出てくるリコメンデーションや、ターゲティングされたネット上のバナー広告などに感じる『あざとさ』に通じるものがある。

　AIの欠点は、もうひとつある。それは、意外にも単純なミスをすることだ。あまりに当たり前すぎて、学習したデータベースに失敗例がないために凡ミスが発生する。

　例えば、将棋において、すでにプロ棋士に勝てるレベルのコンピュータが、『入玉』というめったにない戦法について理解が足りずに負けたり、自爆的な奇策に対応できずに負けることがある。将棋であれば実害は皆無だが、これが社会的に大きな被害を生む事故につながるとしたら、目も当てられない。人間は、多様な現実を経験し、AIの視点でいう『系の違うデータ』に接しているため、AIが犯すような単純なミスはしないのだ」（同）

　AIの盲点ともいえる弱点がある限り、どんなに開発が進んだとしても、まだまだ人と人とのコミュニケーションや、人だからこそできる仕事がなくなることはなさそうだ。
（文＝編集部）