NZ銃乱射事件を“成立させた”フェイスブック問題…AIと巨大SNS企業の限界

銃乱射事件発生から1週間後の3月23日、事件現場となったモスク前で座り込む女性（写真：ロイター／アフロ）

　人と人、より正確には個人が発信する情報と情報をつなぐプラットフォームになることで莫大な富を築いてきたSNS。だが、そのSNSの存在意義やビジネスを根幹から揺るがすような象徴的な事件が起きてしまった。

　3月15日、ニュージーランド・クライストチャーチのモスクで、移民を狙った悲劇的なテロ事件が発生した。事件の顛末は各メディアによって詳細に伝えられているので割愛したいが、事件の背景のひとつとして「SNSという情報発信手段がテロを成立させた」という議論がある。

　今回の事件を起こす際、テロ犯はFacebook上で犯行の様子を生中継した。SNSという手軽な情報発信チャンネルを利用することで、「移民を殺害する＝自分の意志」を世界に情報として伝えることに成功したのだ。逆に言えば、その情報を世界に示す手段であるSNSがなければ、犯人の目的は達成できなかったともいえる。よって、SNSさえなければ犯行は起きなかったのではないか……という議論がそれにあたる。

　生中継を許容してしまったFacebookへのネガティブな批判は、株価だけではなく、同社が開発する“コンテンツ監視AI”にも飛び火している。米国における報道によれば、Facebookは、犯行の様子をおさめたコンテンツを約1時間あまり放置してしまった。その間、再生された回数は約4000回（他サイトにコピー・再生された回数は数百万回）に及ぶという。しかも、削除はユーザーからの報告がきっかけになったと報道されている。

乱射事件の犯人とされる男性が配信したとされる動画の冒頭部分

悪意あるコンテンツを完全にシャットアウトすることは不可能

　Facebookの製品管理バイスプレジデント・Guy Rosen氏はブログで、同種のコンテンツを人工知能で特定するためには大量のデータを用意しなければならず、今回のテロ事件などは“幸いにも特殊な例”であるため見極めるのは難しいと釈明している。くしくもテロ事件が発生した3月15日は、Facebookが「リベンジポルノ」を検出するAIテクノロジーを発表した日でもあった。彼の言葉を要約するならば、多発・模倣・増殖した傾向が似ている悪意あるコンテンツには対処できるが、個性的で大きな被害をもたらす悪意には対応できないということになる。

　この場で、FacebookなどSNSの道徳性や企業倫理を指摘する気はさらさらない。強調したいのは、世界規模のSNSを運営する各企業は、悪意あるコンテンツの摘発にさらなるコストを支払わざるを得ない状況に追い込まれているという点だ（現代の潮流としては、経済性と倫理は不可分と見る論調もあるが）。というのも、巨大SNSを運営するIT企業各社は、AIなどのテクノロジーについて、自社の価値を高めるためのものとして誇大に宣伝している。結果、メディアや一般株主、また世論からすれば「なぜそのような技術があるのに、悪意をシャットアウトするのに使わないのか」という批判につながることは自然な流れとなる。いわば、「期待させてからの失望」が、企業イメージや株価の下落に直結しているのだ。

　しかしGuy Rosen氏が語るように、本音としてはAIなどテクノロジーができることは限定的。筆者個人的にも、いくらAIなどテクノロジーが発達しようが、この手の悪意あるコンテンツを完全にシャットアウトしていくことは不可能だと考えている。理由は、世界のすべての悪意は想定できないし、想定できないものは機械を使って学習ができないからだ。逆にディープラーニングなどで、悪意の芽、もしくは悪意を後に抱きそうな人を予測するなどの手法が確立しても使うことができない。なぜなら、そちらは人間の可能性を否定することにつながり、人権問題に発展することが確実だからだ。

Facebook、「ターゲティング広告」を一部で廃止

　こうして、悪意あるコンテンツを排除するコストに苦しんでいるSNS企業は、なにもFacebookだけではない。3月21日、韓国を訪問したTwitterのジャック・ドーシーCEOも、今後、フェイクニュースの拡散を防止するAIの開発に集中していくと話している。ただこちらも、本当に開発できるかは疑わしい。たとえば、とある個人しか知らない重要な情報やニュースの真偽をどうやって機械が見分けるのか。仮にその仕組みが不完全であれば、個人の貴重な情報を間違って排除することにもつながり、Twitterの存在意義を左右しかねない。一方で、有名なメディアが嘘をつく（もしくは誤報）ことも多々ある。さらに言えば、そもそもフェイクニュースという言葉自体の定義もいまだ不明瞭だ。前述の通り、形が決まっていないもの、抽象化されていないもの、パターンがないものは、機械で処理させることができない。

　余談だが、Facebookは年齢や性別などで広告配信の対象を絞る「ターゲティング手法」を廃止するとも発表している。分野としては「住宅売買」「求人」「信用貸し」などが挙げられているが、理由としては「個人を差別する」など道徳的な問題、また「プライバシー問題」の改善を迫られているからだ。いずれにせよ同社にとっては、AIなどテクノロジーで収益を生む術をひとつ、今後は使用しないのだと宣言したことにほかならない。

　利益を生む方向に技術を使うことには批判が集まる。一方、社会的責任を負うことにはコストを強いられる。そのような状況は、SNS大手企業のビジネスモデルをどう変化させていくのか。もしくは、衰退の要因となっていくのか。今後の状況を注視していく必要がある。
（文＝河 鐘基／ロボティア編集部）