NEW

NZ銃乱射事件を“成立させた”フェイスブック問題…AIと巨大SNS企業の限界

【この記事のキーワード】

, ,

  • このエントリーをはてなブックマークに追加
銃乱射事件発生から1週間後の3月23日、事件現場となったモスク前で座り込む女性(写真:ロイター/アフロ)

 人と人、より正確には個人が発信する情報と情報をつなぐプラットフォームになることで莫大な富を築いてきたSNS。だが、そのSNSの存在意義やビジネスを根幹から揺るがすような象徴的な事件が起きてしまった。

 3月15日、ニュージーランド・クライストチャーチのモスクで、移民を狙った悲劇的なテロ事件が発生した。事件の顛末は各メディアによって詳細に伝えられているので割愛したいが、事件の背景のひとつとして「SNSという情報発信手段がテロを成立させた」という議論がある。

 今回の事件を起こす際、テロ犯はFacebook上で犯行の様子を生中継した。SNSという手軽な情報発信チャンネルを利用することで、「移民を殺害する=自分の意志」を世界に情報として伝えることに成功したのだ。逆に言えば、その情報を世界に示す手段であるSNSがなければ、犯人の目的は達成できなかったともいえる。よって、SNSさえなければ犯行は起きなかったのではないか……という議論がそれにあたる。

 生中継を許容してしまったFacebookへのネガティブな批判は、株価だけではなく、同社が開発する“コンテンツ監視AI”にも飛び火している。米国における報道によれば、Facebookは、犯行の様子をおさめたコンテンツを約1時間あまり放置してしまった。その間、再生された回数は約4000回(他サイトにコピー・再生された回数は数百万回)に及ぶという。しかも、削除はユーザーからの報告がきっかけになったと報道されている。

 

乱射事件の犯人とされる男性が配信したとされる動画の冒頭部分

悪意あるコンテンツを完全にシャットアウトすることは不可能

 Facebookの製品管理バイスプレジデント・Guy Rosen氏はブログで、同種のコンテンツを人工知能で特定するためには大量のデータを用意しなければならず、今回のテロ事件などは“幸いにも特殊な例”であるため見極めるのは難しいと釈明している。くしくもテロ事件が発生した3月15日は、Facebookが「リベンジポルノ」を検出するAIテクノロジーを発表した日でもあった。彼の言葉を要約するならば、多発・模倣・増殖した傾向が似ている悪意あるコンテンツには対処できるが、個性的で大きな被害をもたらす悪意には対応できないということになる。

 この場で、FacebookなどSNSの道徳性や企業倫理を指摘する気はさらさらない。強調したいのは、世界規模のSNSを運営する各企業は、悪意あるコンテンツの摘発にさらなるコストを支払わざるを得ない状況に追い込まれているという点だ(現代の潮流としては、経済性と倫理は不可分と見る論調もあるが)。というのも、巨大SNSを運営するIT企業各社は、AIなどのテクノロジーについて、自社の価値を高めるためのものとして誇大に宣伝している。結果、メディアや一般株主、また世論からすれば「なぜそのような技術があるのに、悪意をシャットアウトするのに使わないのか」という批判につながることは自然な流れとなる。いわば、「期待させてからの失望」が、企業イメージや株価の下落に直結しているのだ。

 しかしGuy Rosen氏が語るように、本音としてはAIなどテクノロジーができることは限定的。筆者個人的にも、いくらAIなどテクノロジーが発達しようが、この手の悪意あるコンテンツを完全にシャットアウトしていくことは不可能だと考えている。理由は、世界のすべての悪意は想定できないし、想定できないものは機械を使って学習ができないからだ。逆にディープラーニングなどで、悪意の芽、もしくは悪意を後に抱きそうな人を予測するなどの手法が確立しても使うことができない。なぜなら、そちらは人間の可能性を否定することにつながり、人権問題に発展することが確実だからだ。

NZ銃乱射事件を“成立させた”フェイスブック問題…AIと巨大SNS企業の限界のページです。ビジネスジャーナルは、IT、, , の最新ニュースをビジネスパーソン向けにいち早くお届けします。ビジネスの本音に迫るならビジネスジャーナルへ!

関連記事

BJ おすすめ記事