ウクライナ戦争でAI殺人兵器「LAWS」は使われるのか？AIが変えた戦争

　このたび、AI・DXコーナーの大半を占めていた拙連載「AIなんか怖くない！」が2年半あまりで最終回を迎えることになりました。名残惜しいような、ちょうど「戦争とAI」について重要な新動向を追い、考察を重ねていた途中なだけに、後ろ髪を引かれる思いもあります。しかし、少なくとも私が死ぬまで続くであろうAI応用談義、シンギュラリティ派との闘い（笑）については、また、どこかの媒体で連載を引き継ぎ、議論を続けてまいりたいと思っています。どうぞよろしくお願いいたします。

　さて、国際法的には純然たる被害者のウクライナが矢継ぎ早に採用したAI、その運用には倫理問題で物議を醸すものもありました。以前も取り上げた、兵士の顔認識の活用について、その後の議論を紹介します。特にいわゆる「ロシア兵の母親の会」会長がウクライナに感謝したエピソードです。

「戦争とAI」の最大の問題といえるのが、自律型致死兵器システム（LAWS: Lethal Autonomous Weapons Systems）の実戦投入です。ウクライナ＝ロシア戦争でLAWSが使われるのか。関係者が固唾をのんで見守っています。最後に、最終回を迎えるにあたって、ビジネス現場をもっと快適にクリエイティブに支えるAI応用への期待を述べます。AIの今後の見通し方についていくつかポイントを記して終わりたいと思います。

兵士の顔認識について、その後

　4月の連載記事「ロシアを窮地に追い込んだウクライナ政府の驚嘆すべきIT・AI戦術…世界中を動かす」では、ウクライナ副首相デジタル大臣ミハイロ・フェドロフ氏の具体的な仕事ぶり、成果を記しました。2ページ目の後半、「顔認識AIによる兵士、戦争犯罪者の特定」では、クリアビューAI社の顔認識技術を導入して、個々の兵士の名前を特定し彼らの振る舞いを監視カメラ画像で紐づけ、戦争犯罪者とその証拠を特定しつつあることを記しました。これを、平時のようにプライバシー侵害、基本的人権の侵害だとする議論も巻き起こりましたが、その被害者たるはずの兵士の家族の意見はどうなっているでしょうか？

　戦時中の当事国の兵士への「人間の尊厳を侵されない扱い」を保証するジュネーブ条約違反であるという意見も散見されたなか、筆者自身は「ロシア兵士の母親の委員会の連合は、以前の反戦体制と停戦において重要な役割を果たしてきたと聞いています。戦争で亡くなったすべての若いロシア兵の名前を母親協会に伝えるのは良いことではありませんか？」と、機械翻訳によりロシア語やウクライナ語で投稿しています：

ロシア兵士の母親の委員会の連合は、以前の反戦体制と停戦において重要な役割を果たしてきたと聞いています。 戦争で亡くなったすべての若いロシア兵の名前を母親協会に伝えるのは良いことではありませんか？

— 野村直之　Naoyuki Nomura (@nomuran) April 5, 2022

　米国兵士は、所属・階級・フルネームをプレスして刻んだ識別票「ミリタリー・ドッグ・タグ」を常時着けています。いつどこで死ぬかわからない兵士たちを、敵味方、第三者が同定できるように、常時Identityを公開するためのものです。身元を明らかにし、行方不明にならないようにし、情報がなく心配するばかりの家族らへの補償はもちろん、安否情報や遺体を送り届け、故人を鄭重に葬れるようにした。そのために、ミリタリー・ドッグ・タグを着けているわけですね。ロシア軍にはどうやらないように聞きましたが、そのために、兵士の家族は心配で、困っているようです。

「ロシア兵士の母親の会」会長ワレンチナ・メリニコワさんの発言が家族の心情、意見を集約、代表していると思われました。そこで、テレビ朝日の2022年4月3日の報道 “前線へ送られるロシア兵の現実−−「兵士の母の会」の告発”から引用します。彼女は、「ウクライナ政府による死傷ロシア兵の情報だけが頼りだ。感謝している。」と発言をしています。注目箇所を【】で示します：

＜・・・いまは誰でもが前線に送られかねない状況だ。誰が志願兵で誰が徴集兵かなど、軍当局では誰も気にしていない。2008年のジョージア紛争の際にも南オセチアに徴集兵が送られた。憲法には良心的兵役拒否の項目があるのだが。

「母の会」にも手紙がたくさんきている。ある女性は、「自分たちにはチェルニヒウに親戚がいる。もし息子がウクライナに送られることになったら耐えられない」と書いてきた。以前はロシアにもジャーナリズムがあったから、情報発信の場があったが、いまは会の活動を広報する場もないため、兵士の母親や妻たちはどこに照会していいのかわからない。【捕虜になったか、戦死したのか、国防省に照会しても取り合ってくれない。】ようやく国際赤十字委員会がその作業を肩代わりし始めたところだ。

・・・中略・・・

　以前は「母の会」が捕虜になった息子たちを連れ戻したこともある。ロシア軍も協力的だった。しかし今は何もかもが違っている。この活動を30年やっていて、初めて恐怖を感じている。プーチン大統領が核の使用さえちらつかせて脅しをかけているからだ。

　今でもモスクワの軍幹部とはコンタクトがあるが、【わたしたちが持っているロシア軍の死傷兵リストは、ウクライナ側が提供してくれたものだけだ。IDナンバーやデータも正確だ。】IDバッヂもある。チェチェン紛争の時はIDバッヂがなかったため、兵士の遺体は誰かわからないままグローズヌイの街路で野ざらしになっていた。

　1月の演習時には兵員数はつかめていたが、今の兵員数はわからない。損害が大きくてロシアに戻った部隊も多いからだ。わたしたちはロシア軍中央医療局に、戦場に出た兵士たちの心理的なリハビリの実施を依頼しているところだ。

（ロシア軍の兵士の死者数は）正確にはわからない。【ウクライナ側から提供されたリストしかない。そこには名前もあるので信頼できる情報だと思う。】

　住民のための人道回廊が話題になっているが、死んだ兵士や捕虜を回収する、戦場の人道回廊、一時的な停戦が必要だ。遺体は戦場に残されたままになっている。不思議なことにロシア側がウクライナ軍の死者をどうしているのか、捕虜をどこに収容しているのか、まったく明らかになっていない。明らかにすべきだ。

・・・中略・・・

　ロシア政府は、戦死者の数を正式に発表して弔意をあらわしたことのない政府だ。戦死者も負傷兵も戦場に残されたまま、「行方不明」とされて終わりだ。

　わたしは、早急に死者の遺体、捕虜の交換をすべきだと思う。十字架を立ててやれないまま、名もなく朽ち果てていくことを見過ごすわけにはいかない。

・・・中略・・・

　最近もある母親が電話してきて「もうすぐ契約期間が終わるので、息子が帰ってくる」というのだが、息子がどこにいるのかもわからないままだ＞

　大変に勇気のある告発です。メリニコワさんは、テレビ朝日で放映された、このWebインタビューのなかで、「こんな発言をして当局にどう扱われるか怖くて仕方ないが、息子たち（母の会メンバー全員の息子を指すと思われる）のことを考えると正直なことを言わざるを得ない、と語っていました。ロシア国防省は、1000数百万円の戦死者家族への補償金を払いたくなくて、行方不明扱いしたり、意図的に遺体を遺棄、放置したり焼却、無縁地に埋めたりなどしているのではないか。「ロシア兵の母親の会」会長がこう示唆しているわけです。情報を隠された家族が疑心暗鬼の塊になることは容易に想像できます。

　一方、彼女は、ウクライナが、驚くほど正確にロシア軍の死傷兵リストを作成し、「ロシア兵の母親の会」に愚直に情報提供していること、これが唯一の「息子たち」の安否に関する情報である、と国際社会に対して明言しました。ウクライナに感謝しているとも発言しています。

　確かに、死亡したロシア兵の氏名等の公表により相手国に厭戦気分を醸成せんとする意図もウクライナ側にはあったのかもしれません。しかし、現場の当事者に対する貧困な想像力をもとに、杓子定規に、ジュネーブ条約違反だ、人間の尊厳の問題だ云々というのはお門違いだったといえます。何よりも事実情報の開示こそが当事者の感情をも満たすものだ、という謙虚な理解が求められるのではないでしょうか。

　戦時の国際法（ジュネーブ条約）や倫理に深く関わるところで、ロシアの大規模SNSから学習データを取得した顔認識システムが効果を発揮しています。不足情報を補完、紐づけするためにAIを活用すること自体は非難されるに値しないのではないでしょうか。

AI兵器の効果　～ LAWSの本格投入があるかが今後のAI本格活用戦争の分水嶺

　戦術核兵器の実使用と同等か、それ以上に、人類の戦争の今後を左右すると懸念されているのが、AI応用兵器の本命中の本命といわれる自律型致死兵器システム（LAWS: Lethal Autonomous Weapons Systems）です。鋭い人は、この呼称を聞いただけで、映画「ターミネーター Judgment Day」の映像を思い出すことでしょう。機械が自分で映像を判断し、相手を見分けてその場で（人間の指示なしに）殺すイメージから、恐怖心を掻き立てられるのではないでしょうか。

　実際、NHKが2021年8月に公開した記事のタイトル“【殺人ロボット】自律型AI兵器“LAWS” 開発状況と規制への動き”となっています。先頭に、【殺人ロボット】と冠してLAWSを紹介しているのです。同記事では、LAWSの開発でロシアが先行しているらしい状況を伝え、規制の必要性を訴えています。

　AIがこれこれのことができればLAWSだ、という技術的に具体的な定義が定まっているわけではありません。

　外務省が2020年に公表した “自律型致死兵器システム（LAWS: Lethal Autonomous Weapons Systems）とは”の冒頭には、「人間の関与なしに自律的に攻撃目標を設定することができ、致死性を有する『完全自律型兵器』を指すといわれているものの、定義は定まっていません」とあります。

　第三次AIブームがブレイクして1年ほど経った2013年から、国際的な規制の必要性が叫ばれ始め、特定通常兵器使用禁止制限条約（CCW）の枠組みで議論されるようになりました。自国民、自国兵士を死なせたくないと考えるまともな国の軍関係者、技術者らは、まだ存在しないLAWSの開発自体を止めることはできないとの前提で指針を考えました。LAWSを起動し、ときに操作する人間の関与、責任についてなど、11項目から成るLAWSに関する指針（PDF）を、2019年11月にまとめています。

　日本政府は先の外務省の文書に、「日本としてはLAWSを開発しない」としていて、おそらく外務省、防衛省としてはその方針なのでしょう。しかし、重大な関心をもって国際動向を注視し、場合によっては対抗策を生み出すための研究は行わざるを得ない、と考えているのではないでしょうか。政府だけでなく、政党も研究し、実戦への投入動向について特に関心を寄せています。

　公明党は2021年8月“自律型致死兵器システム（LAWS）規制議論の現状”という記事でLAWS規制の動向を紹介しています。特定通常兵器使用禁止制限条約（CCW）の政府専門家会合（GGE）での一連の議論からピックアップした内容です。「(2019年)3月に、GGEで日本が「全ての兵器を責任ある人間の指揮、統制の下に置く」ことなどを求め、議論をリードするよう政府に提言している。公明党の提言を受け、政府はGGEで「人間の管理の確保」などの重視を強調し、人間の関与を完全に排除してはならない、と主張しました。いわばLAWS否定の提言です。

　確かに、LAWSに顔認識などは任せるとしても、起動、停止、動作中のなんらかのオーバーライド（人手による割り込み）を徹底させないと誰も責任をとることができません。LAWSを使う側にも、AIに敵だと誤認識されたりして危害が及ぶ恐れもあります。「責任ある人間による管理の確保」は極めて重要な規制ポイントといえるでしょう。

　LAWSはAIによる新たな殺人を大量に引き起こしかねないという側面だけでなく、メリットもある、と考えられています。ヒューマンエラーの追放により、何桁も高い精度で狙った相手だけを攻撃し、誤認殺人を防げるなどのメリットです。一方、誤作動やAI特有のセキュリティホール(例えば 拙著“実践フェーズに突入 最強のAI活用術”「おわりに」に記した「敵対的サンプル画像」、「トレーニングセットへの毒仕込み」、「（深層学習版）トロイの木馬」)を突かれる恐れもあります。LAWSがハッキングされ、味方を殺戮してしまう悲劇も考えられます。いつでも停止が可能な、多重の安全設計が求められます。

　当たり前のように聞こえる規制、懸念については、もしも、その規制が破られた場合、どんな事態を引き起こすか想定してみるべきです。そうすれば、そんな規制の意味を理解しやすくなるでしょう。LAWSの「行為」について、もし責任の主体があいまい、うやむやな状況になったなら、無差別、出鱈目な殺戮の責任を誰もとらないことになりかねません。例えば、もし仮に、ロシアが今回LAWSを使ったとしましょう。その戦後責任として、絞首刑の判決を受けるべき人物が、ウラジーミル・プーチン氏であることが明確になっていたりすれば、他の通常兵器と同様の扱いが可能になるかもしれません。

　しかし、ビッグデータからの学習によりAIが構築されるLAWSでは、先述のセキュリティホール、たとえば、学習用データセットへの攻撃による誤動作もあれば、ニューラルネットワークを構成するソフトウェア（多くは他社製やオープンソース）のバグによる誤作動もあり得ます。また、作業員によるなんらかのオペミスによる誤作動などもあり、最高責任者の責に帰するには無理のあるケースが多い予感がします。

　オペミスのなかには、例えば自律的(autonomous)殺人モード(LAWS) と、非自律的殺人モード(‘A’の無いLWS)をスイッチできる兵器で、その切り替えをうっかり間違えた、なども起きるでしょう。建前上、人手でLWS使っていることにしても、ちょっと手が足りない、眠くなったので、黙って無許可でLAWSモードに切り替えた。眠い目で間違った相手を殺すより良いでしょう？　という現場の緊急判断が許容されただけで、規制の実効性はなくなってしまうかもしれません。規制があれば解決するとは限らないのです。

　少し具体的に想像しただけで、実務上の問題が山積していて、LAWSへの規制を実効あるものにするのが難しいと分かります。倫理的に微妙な問題については、さらに多くの人々、組織の間で意見が分かれてくるでしょう。規制の大筋だけでも複数の組織で意見を統一する意図もあって、米国防総省は横串の組織JAIC（連合AIセンター）を設立しました。官僚組織の御多分に漏れず縦割り組織の弊害を反省し、軍隊におけるAI採用についても効率よく、正しい統一見解を導く必要に迫られたのだと思います。このJAICではAIの基礎教育、普及啓もうにも注力しています。データ収集、データのクラウド上での融合、活用のための構造化、整備など、民間に追いつくべく努力していると聞きます（“米軍による国防イノベーションの推進―AIとJADC2―”,森聡,日本国際問題研究所2021-03-22）。

　今回のウクライナ=ロシア戦争における顔画像認識AIとの関連では、openDemocracy’s2022が懸念を示しています。特定の人物を狙って殺すLAWSには、高度な顔画像認識AIが不可欠だからです。AIは人間の認識精度を超えることはあっても、100％の精度に達することはありません。

　それでは、何％の精度に達したら、殺人ロボットLAWSを実戦投入して良いのだろうか？ 99％？→あり得ない！　99.9％? →1000回に1回、無垢の人が殺されてはダメでしょう。せめて、100万回に1回以下の、99.9999％にしなくては。それも、室内vs.太陽光で色温度が変わると精度が落ちる、などではダメ。いずれ、自動運転車のように、画像認識だけでなく、別のセンサー、データによる人物同定を併用することになるかもしれません。例えば無理やりでも指紋を取るとか、Ｘ線写真で歯の状況を照合するとか。しかし、国際法でこれらを義務付けても、多くの、ならず者国家が順守してくれるだろうか？　コストがかかり、目標せん滅率を下げてしまうような技術開発を彼らが真面目に行うとは考え難いですね。

AI時代の戦争の今後

　ウクライナは数万円の民生品ドローンをガレージで手榴弾搭載に改造し、敵陣を恐怖に陥れています。民間人も協力、実践が可能です。この意味で、不幸にも戦争が長期化したとき、ベトナム戦争、アフガン戦争のとき以上に、ゲリラ、レジスタンスが強くなりそうな予感がします。DeepFakeの延長、生成系のAIの応用でいえば、敵のメタバースにハッキング、侵入して、フェイク上官に攻撃中止命令を出させたりして、敵軍を直接攪乱する動きも10年後には出てくるかもしれません。

　自律型のロボット兵器LAWSが必要とする顔画像以外のデータとしては、目的地域に近い地形の大量の航空写真や、地上の地形や構造物の高度、3Dモデルなどがあります。これらをはじめ、さまざまな画像データや数値データをAIに学習させることになるでしょう。しかし、これらのデータの多くは、もともと攻撃、防御の安全保障目的で取得、作成されたものではありません。活用にあたっては目的に沿って、慎重にデータ加工、統合を行う必要があります。

おわりに

　本連載では、紙に書かれた文字の認識などは過渡期のAI、などと指摘しました。そもそも紙という、生産性を大きく下げる（でも証拠能力はある）媒体を使わない本格DXのためにAIを活用しましょう、などと訴えてまいりました。ビジネス現場をもっと快適にクリエイティブに支えるAI応用こそが、本格DXで生産性を向上させ、働く人々を幸福にする、と確信しています。

　AI全般の今後の見通しですが、いまでも2045年のシンギュラリティを信じている人も多い一方、汎用AI、意識についての量子論的な研究が少しずつ進んでいたりもします。しかし、当面、産業界や暮らしを大きく変えていくのは、すでに登場済の専用AIたちです。単機能の道具群です。これらにどんなデータを「食べ」させ、どんな価値を引き出していくかの工夫、試行錯誤がまだまだ膨大になされていくべきでしょう。

　そんななかで、ホワイトカラーを支える（オンライン）オフィス環境という身近なところでは、次のような課題、方向性で、自らも自らアイディアを出し、貢献したいと考えています：

・創造性を引き出すオンライン雑談のやり方　→Slack社らに任せていてokか

・高精度な機械翻訳で拓けた新しいAI活用　→他言語での学習結果の活用

・ブロックチェーンだけでなく運用上の工夫、取り決めによる真のNFTを楽に扱う　→証拠資料としての紙の追放のためには不可避

・メタバース上で気の利いた秘書、秘書間の連携(エージェント技術)により仕事が進み、煩雑な事務に人間が付き合わなくて済む仕組みとそれを支えるAI

・・・・

　まだまだあります。また、どこかでお会いしましょう。
（文＝野村直之／AI開発・研究者、メタデータ株式会社社長、東京大学大学院医学系研究科研究員）