ビジネスジャーナル > ITニュース > ウクライナ侵攻:AIが戦争の道具化
NEW
野村直之「AIなんか怖くない!」

ウクライナ侵攻:AIが戦争の道具化、かつてないサイバー戦争…AI人格が偽投稿も

文=野村直之/AI開発・研究者、メタデータ株式会社社長、東京大学大学院医学系研究科研究員
ウクライナ侵攻:AIが戦争の道具化、かつてないサイバー戦争…AI人格が偽投稿もの画像1
YouTubeチャンネル「Anonymous TV」にアップされた動画「Anonymous – Message to the Russian people」

 ロシアのウクライナ侵攻が始まって12日ちょっとの時点で執筆しています。まずはじめに、国連発表の死者数の公式数値の数倍、数千人に達すると思われる民間人犠牲者に心から哀悼の意を表します。ならびに、いくら覚悟をし、命令で赴いたとはいえ、死亡した両側の兵士にも哀悼の意を表します。公開時点、お読みいただく時点で、傀儡政権、亡命政権ができてしまっているか、停戦が成立しているか、はたまたロシアのプーチン大統領が失脚または(この世から)姿を消しているか、予断を許しません。

 2020年1月の連載で、AI兵器、特に無人ドローンについて書きました。同年に米国がイランの革命防衛隊司令官ソレイマニを殺害した際に使ったものよりは小型のようですが、トルコ製の無人戦闘ドローンをウクライナが入手し、実戦投入を準備していたのは紛れもない事実です。対戦車砲のジャベリンは、肩に担いで戦車のいる方向へ向けて発射すれば、目標を正確にとらえ、装甲の分厚い側面ではなく、一旦上空に舞い上がり戦車上部の弱いところに落下して爆発するとのこと。ほぼAI兵器といえるほど自動化されているといって良いのではないでしょうか。このような代物が400万円と、戦闘機や戦車に比べてはるかに安価で、多数導入され、ウクライナ軍や民間志願兵に大量に供給されています。

情報戦、心理戦、サイバー攻撃

 双方のサイバー攻撃もし烈さを増しています。聞くところによると、侵攻前の2月、ロシアのハッカーがウクライナの原発にハッキングして、オペレーションに障害を与えようとしていたとのこと。おそらくは旧ソ連時代のコンピュータが古すぎて、また、肝心な部分がネットワークにつながっていなかったりして失敗し、ミサイル攻撃に切り替えたのではないでしょうか。なんとしてもウクライナの民衆の生活インフラ(病院や公共サービス)を破壊、コントロールしたかったからと考えられます。

 対するウクライナ側を、国際匿名ハッカー集団、その名もアノニマス(Anonymous=姓名不詳)が全面支援しています。ロシア軍のデータベースに侵入し、ロシア軍人・兵士10万人分の個人情報を暴いたり、ロシア国営放送をハッキングして西側諸国発のウクライナでの戦闘シーンを流したりするなど、瞠目すべき成果を上げています。かつて、ここまでのサイバー戦争、情報戦があったでしょうか。

 いわゆるプロパガンダ合戦も過熱、進化しています。ドネツク人民共和国に侵入を試みたウクライナ兵との銃撃戦とされる親ロ派が流した映像は、日本経済新聞調べで日付が10日前のものとわかり、ファクトチェック団体ベリングキャットは10年にユーチューブに投稿されていた動画の「爆発音」と酷似した爆発音であることを突き止めました。

今後はAIがフェイクに多用されてしまう悪い予感

 今回はまだ使われたとの情報も確証もありませんが、米国のオバマ元大統領にでたらめな演説をしゃべらせても本物と見分けがつかなかったり、女優の首から上を挿げ替えてもなかなか気づかれない水準の人工知能、DeepFakeが使われていく可能性も大いにあると思います。このあたり、匿名による投稿、とくに緊急投稿は数時間以内のネットからの削除など不可能であり、今後とも、相手の心を折ったり、挑発したりする情報戦、心理戦はエスカレートせざるを得ないでしょう。好むと好まざるとにかかわらず、フェイクのためのAIや、それを見破るAIが使われていくことになるでしょう。

 いつの時代も戦争は技術開発を急加速させてきましたが、今回はせいぜい汎用のAI技術が応用されるだけで、AI自身が戦争によって進化を加速させたりはしないとは思いますが。

SNS上にAIによる偽人格が登場

 プーチン大統領はツイッターなどのSNSをしていないようですが、ウクライナ首脳はもちろん、ロシア幹部にもSNSへの投稿を行う人がいます。外交で、諸外国首脳との緊急会談などにおける仮合意の内容を相手国が持ち帰って承認する前にツイッターに流されて既成事実にされちゃったり、それを追認したり、という出来事が起きるのも、今日的な外交、戦争の風景といえるでしょう。それほど恐ろしい影響をおよぼすSNSや外国のインターネット発信源へのアクセス遮断(自国側も相手国側も)、そして、正義の騎士イーロン・マスクによる衛星インターネット接続の復活、提供なども話題になりました。

 3月初めの「Gigazine」記事『反ウクライナの主張を繰り返すSNSアカウントは偽物でプロフィール画像もAI製、さらにそのフォロワーもニセのAI製だったことが明らかに』は衝撃的でした。GPT-3が、チューリングテストの基準、30分どころか3カ月もの間、自然な記事投稿とコメントでの他人とのやり取りで、対話相手、読者に人間だと信じられ続けていましたが、今度は、実在しない人物画像入りです。GAN(敵対的生成ネットワーク)などのAI技術を駆使して作られたこれら自然な画像がFacebook上で友人ネットワークを作っていたけれども、それらもAI製のフェイクだったと気づいたメタ社が、反ウクライナの発言群をアカウントごと削除しました。

 SNS上のAI人格によるフェイク投稿で反ウクライナ・プロパガンダが行われていた。これを知っただけで、自然言語処理や画像生成という、兵器には直接応用されそうにないAIをも戦争の道具に使うのかと知って、暗鬱たる気持ちになりました。

 ひとつの救いは、無料の架空人物生成サービスの開発者や運営者の良心です。彼らは悪用を戒めるため、わざとフェイク顔画像独特の特徴を残してくれていたようです:

「架空のプロフィール画像がAI製のものであると見破るための根拠は複数ありますが、そのひとつとしてコリンズ記者は『特徴的な耳』を挙げています。この耳はThis Person Does Not Existという架空の人物の画像を作成するサービスを使用した際に出てくる特徴のひとつだそうです」(「Gigazine」記事より)

 すべての業者がこのように良心を核に活動しているか、まったく心もとないながら、ならず者プーチン氏相手と違って、IT業界には法規制も効きます。巨大SNSやメタバースの事業者自身、高度なAI開発企業なので、小規模な犯罪グループのAI悪用に、より高度なAIを迅速に開発して、対抗していくことも十分可能でしょう。

 長くなったので、予定していた「■B級メディアの現地情報発信力が機械翻訳の進化で劇的に向上?」については、次回以降に回したいと思います。劇的に向上した機械翻訳の能力、精度のおかげで、B級メディアが、マイナー言語の一次情報を素早く正確に翻訳すると、ファクトチェック、裏取りに時間をかけるメジャーメディアが有事には太刀打ちできなくなりつつあるのでは? という指摘です。こんなところにも、AIによる時代の変化がみてとれるようになりました。

(文=野村直之/AI開発・研究者、メタデータ株式会社社長、東京大学大学院医学系研究科研究員)

野村直之/AI開発・研究者、メタデータ株式会社社長、東京大学大学院医学系研究科研究員)

野村直之/AI開発・研究者、メタデータ株式会社社長、東京大学大学院医学系研究科研究員)

AI開発・研究者、メタデータ株式会社社長、東京大学大学院医学系研究科研究員。


1962年生まれ。1984年、東京大学工学部卒業、2002年、理学博士号取得(九州大学)。NECC&C研究所、ジャストシステム、法政大学、リコー勤務をへて、法政大学大学院客員教授。2005年、メタデータ(株)を創業。ビッグデータ分析、ソーシャル活用、各種人工知能応用ソリューションを提供。この間、米マサチューセッツ工科大学(MIT)人工知能研究所客員研究員。MITでは、「人工知能の父」マービン・ミンスキーと一時期同室。同じくMITの言語学者、ノーム・チョムスキーとも議論。ディープラーニングを支えるイメージネット(ImageNet)の基礎となったワードネット(WordNet)の活用研究に携わり、日本の第5世代コンピュータ開発機構ICOTからスピン・オフした知識ベース開発にも参加。日々、様々なソフトウェア開発に従事するとともに、産業、生活、行政、教育など、幅広く社会にAIを活用する問題に深い関心を持つ。 著作など:WordNet: An Electronic Lexical Database,edited by Christiane D. Fellbaum, MIT Press, 1998.(共著)他


facebook
https://www.facebook.com/profile.php?id=100063550391719

ウクライナ侵攻:AIが戦争の道具化、かつてないサイバー戦争…AI人格が偽投稿ものページです。ビジネスジャーナルは、IT、, , , の最新ニュースをビジネスパーソン向けにいち早くお届けします。ビジネスの本音に迫るならビジネスジャーナルへ!