NEW
鷲尾香一「“鷲”の目で斬る」

ロボット(人工知能)のテロリストや徒党、人間を攻撃する恐れ…総務省が報告

【この記事のキーワード】

, ,

  • このエントリーをはてなブックマークに追加
「Thinkstock」より
「親しみのある見た目の人型ロボットが、オレオレ詐欺の“受け子”や“出し子”など人間の代替物として犯罪に悪用される」

「ロボットが遠隔操作ウィルスに感染して悪用され、空き巣に入る」

 まるでSF小説だが、これはいたって真面目な話である。東京大学大学院情報学環教授で同大大学総合教育研究センター長の須藤修氏が座長を務める総務省のAI(人工知能)ネットワーク化検討会議が6月20日にまとめた、「AIネットワーク化の影響とリスク」という報告書のなかに書かれている。

 検討会議は、AIネットワーク化の進展が産業構造や雇用にもたらす影響を概観し、その進展を通じて目指すべき「智連社会」(WINS)における人間社会に与える影響を検討している。

 その前提として、(1)公共分野、(2)生活分野、(3)産業分野について、2020~40年代にかけて実現されることが期待される社会の将来像をベースにしている。たとえば、公共分野では防災面でリアルタイム予測の高度化が進み、生活分野では3Dプリンタ等のパーソナルファブリケーションが普及、あるいは産業分野では農林水産業で農業用ドローン、インテリジェントファーミング等の実現、運輸・物流では自動運転の実現、サービス業や建設ではロボット等による自動化が進んでいるといった状況だ。

 そうした状況下でAIのロボットに発生し得るリスクを、機能面では次の点について検討している。

(1)セキュリティ
(2)情報通信ネットワークシステム
(3)不透明化
(4)制御喪失

 また、法制度・権利利益面では事故、犯罪、消費者等の権利利益、プライバシー・個人情報、人間の尊厳と個人の自律、民主主義と統治機構について検討している。

発生し得るリスク


 その結果、前述のさまざまな事態が発生するリスクがあるということなのだ。もちろん、想定される事態が起こる可能性については、「高・中・低」「不確実」とランク付けされている。さらに、被害の規模についても「大・中・小」「不確実」でランク付けされ、二次的(派生的)に生ずるリスクについても言及されている。

(1)発生の可能性「高」とされるリスク

・ロボット自身がハッキング攻撃され、不正に操作される、あるいは動作しなくなる
・想定外の動作をする