ロボット（人工知能）のテロリストや徒党、人間を攻撃する恐れ…総務省が報告

「Thinkstock」より

「親しみのある見た目の人型ロボットが、オレオレ詐欺の“受け子”や“出し子”など人間の代替物として犯罪に悪用される」

「ロボットが遠隔操作ウィルスに感染して悪用され、空き巣に入る」

　まるでSF小説だが、これはいたって真面目な話である。東京大学大学院情報学環教授で同大大学総合教育研究センター長の須藤修氏が座長を務める総務省のAI（人工知能）ネットワーク化検討会議が6月20日にまとめた、「AIネットワーク化の影響とリスク」という報告書のなかに書かれている。

　検討会議は、AIネットワーク化の進展が産業構造や雇用にもたらす影響を概観し、その進展を通じて目指すべき「智連社会」（WINS）における人間社会に与える影響を検討している。

　その前提として、（1）公共分野、（2）生活分野、（3）産業分野について、2020～40年代にかけて実現されることが期待される社会の将来像をベースにしている。たとえば、公共分野では防災面でリアルタイム予測の高度化が進み、生活分野では3Dプリンタ等のパーソナルファブリケーションが普及、あるいは産業分野では農林水産業で農業用ドローン、インテリジェントファーミング等の実現、運輸・物流では自動運転の実現、サービス業や建設ではロボット等による自動化が進んでいるといった状況だ。

　そうした状況下でAIのロボットに発生し得るリスクを、機能面では次の点について検討している。

（1）セキュリティ
（2）情報通信ネットワークシステム
（3）不透明化
（4）制御喪失

　また、法制度・権利利益面では事故、犯罪、消費者等の権利利益、プライバシー・個人情報、人間の尊厳と個人の自律、民主主義と統治機構について検討している。

発生し得るリスク

　その結果、前述のさまざまな事態が発生するリスクがあるということなのだ。もちろん、想定される事態が起こる可能性については、「高・中・低」「不確実」とランク付けされている。さらに、被害の規模についても「大・中・小」「不確実」でランク付けされ、二次的（派生的）に生ずるリスクについても言及されている。

（1）発生の可能性「高」とされるリスク

・ロボット自身がハッキング攻撃され、不正に操作される、あるいは動作しなくなる
・想定外の動作をする

（2）発生の可能性「中」とされるリスク

・人型ロボットがオレオレ詐欺に利用される
・愛玩用の犬型ロボットが歌うサービスを提供していた会社が倒産したため、サービスが継続できず、ロボットが歌わなくなり、ショックを受けた飼い主の高齢者の健康が悪化する

（3）発生の可能性「低」とされるリスク

・テレイグジスタンス（遠隔操作）のロボットにより外国人が入国審査を受けることなく「上陸」することが可能となり、出入国管理制度が機能不全に陥り、テロリスト等が流入する
・人間に投棄された「野良ロボット」が徒党を組んで、人間に対して参政権等の権利付与を要求する

　加えて、そのリスク管理の方法としては、野良ロボットが生じないよう登録制等の検討、人間に反抗するおそれのある人工知能の開発の事前の制限等を必要とされている。

　報告書の終わりには、報告書の示すシナリオは現段階で想定されるAIネットワーク化に伴うロボットに関するリスクのシナリオをあくまでも試行的に例示したものにすぎず、AIネットワーク化のリスクに関するシナリオが以上のシナリオに限定されることをなんら含意するものではないと記されている。

　今後、社会の各分野に関係するステークホルダーの参画を得つつ、AIネットワーク化の進展等に応じて、リスクにシナリオを拡充するとともに、既存のリスクシナリオについてもその内容やリスク評価等を不断に見直すなど継続的に検討・共有を行い、それに基づく対処を進めていくことが求められる。
（文＝鷲尾香一／ジャーナリスト）