NEW
野村直之「AIなんか怖くない!」

怖いのはAIではなく人間であることの証明…雑用レベル業務でもAIには駆逐されない

文=野村直之/AI開発・研究者、メタデータ株式会社社長、東京大学大学院医学系研究科研究員
【この記事のキーワード】, ,

 しかし、今回のように司令官殺害という極端なオプションをトップが選んでしまうなら、いっそ意思決定をAIに任せたほうがいいのでは、という極論も沸き起こってきます。もちろん、責任をとる最終決定者の人間がその意思決定の根拠を理解できるような次世代AIでないとまずいわけですが。

人間の悪意をキャプチャーしてしまったAI

 軍事用以外のAIでも、かつてマイクロソフトのTayが差別発言を多発するようになって閉鎖に追い込まれたなど、「邪悪化」するAIの話題があります。この件はもちろん、悪意をもった人間たちが、素直に入出力の対応関係をキャプチャーしてしまうAIに、差別発言をするようにデータを仕込んで学習させたことによります。

「人類を絶滅させるわ」発言のロボットは、開発者のブラック・ジョークだったかもしれないとの説もありますが、いずれにせよ、背後にいる人間の悪意、もしくは悪意をまぶした冗談などの意図が起こした物騒な話題です。人騒がせなジョークで炎上マーケティングを行い、安い宣伝費で有名になりたいベンチャー企業も交じっているかもしれません。

AI開発のハードルが下がると背後の人間の悪意も剥き出しになる

 しかし、最近騒がれたように、ツイッター・ボットが切々と、人類滅亡を説いてきて相手を鬱にさせたり、自殺を勧めてくるようですと洒落にならないでしょう。実際にメンタルが悪化したり、最悪、本当に自殺してしまう人が出てきたら、開発者は自殺幇助や、未必の故意による殺人の罪に問われることでしょう。フェイク動画を誰でもつくれるソフトも出てきているように、開発のハードルは下がってきています。政治家や軍人でなくともAIを操ってこのようなことができる時代になってしまいました。やはり、怖いのは人間です。

(文=野村直之/AI開発・研究者、メタデータ株式会社社長、東京大学大学院医学系研究科研究員)

【お知らせ】

『人工知能が変える仕事の未来』、文庫版企画始動

日本経済新聞出版社からロングセラー認定されている、著書『人工知能が変える仕事の未来』の文庫版企画が始動しました。文庫化にあたり、書籍の文字数を半減させなければなりません。そこでこれを機に、皆様からどのネタは残してほしい、あるいは逆にこの部分は削ったほうが良い、内容を更新したほうが良いというコメントを2月中旬まで募集しております。こちらからお寄せください。お早めがありがたいです

・1/31までに頂いたコメントのうちベストコメント上位5名様に、刊行された文庫本を贈呈

・最高のご貢献をされた1名様のお名前は書籍中の謝辞に記載

とさせていただきます。AIブームが落ち着いてきた今こそ、『人工知能が変える仕事の未来』を読んで、AIの全体像を俯瞰してみませんか? 皆様のコメントお待ちしております!

●野村直之

AI開発・研究者、メタデータ株式会社社長、東京大学大学院医学系研究科次世代病理情報連携学講座研究員

1962年生まれ。1984年、東京大学工学部卒業、2002年、理学博士号取得(九州大学)。NEC C&C研究所、ジャストシステム、法政大学、リコー勤務をへて、法政大学大学院客員教授。2005年、メタデータ(株)を創業。ビッグデータ分析、ソーシャル活用、各種人工知能応用ソリューションを提供。この間、米マサチューセッツ工科大学(MIT)人工知能研究所客員研究員。MITでは、「人工知能の父」マービン・ミンスキーと一時期同室。同じくMITの言語学者、ノーム・チョムスキーとも議論。ディープラーニングを支えるイメージネット(ImageNet)の基礎となったワードネット(WordNet)の活用研究に携わり、日本の第5世代コンピュータ開発機構ICOTからスピン・オフした知識ベース開発にも参加。日々、様々なソフトウェア開発に従事するとともに、産業、生活、行政、教育など、幅広く社会にAIを活用する問題に深い関心を持つ。

情報提供はこちら