KDDI、AIに関するセキュリティ情報サイトが画期的だと話題…LLM活用の分類技術を導入

●この記事のポイント
・KDDIとKDDI総合研究所が、AIセキュリティに関する情報を一元化して発信する「AIセキュリティポータル」を開設
・専門家から一般ユーザーまで幅広い層をターゲットに、最適化した情報提供を実施
・AIが社会や人に与える影響まで踏み込んだ独自の「AIセキュリティマップ」を提供

　企業や個人によるAI活用が急速に広がる中、セキュリティリスクへの対応が喫緊の課題となっている。特に汎用的な生成AIツールの一般ユーザーへの普及により、セキュリティ上の脆弱性が従来の専門家向け対策だけでは対応しきれない新たな局面を迎えている。こうした状況を受け、KDDIとKDDI総合研究所は3月26日、AIセキュリティに関する情報を一元化して発信するポータルサイト「AIセキュリティポータル」を開設した。

　このプラットフォームで画期的なのが、LLMを利用した新しい分類技術を開発・導入している点だ。この技術により、これまで整理されていなかった最新のAIのセキュリティの情報を整理・分類することが可能になり、新しく出た文献もデータベースに随時蓄積されることで、同サイトの利用者は最新情報に簡単にアクセスできるようになる。

　さらに、これまでAIのセキュリティとの関係性が体系的に整理されていなかった、プライバシー侵害や著作権などの権利侵害といった、AIが攻撃・悪用された結果によりAIが社会や人にもたらすネガティブな影響を「外部作用的側面」と定義して、その要因の調査研究を実施。この結果をもとに、AIのセキュリティ情報の関連性を整理したAIのセキュリティマップを作成した。そこで今回はKDDI総合研究所に、同サイトをオープンした背景・目的、そしてサイトの具体的な内容について取材した。

●目次

• 基礎研究の蓄積を活かした包括的な情報基盤の構築
• 独自の「AIセキュリティマップ」で社会的影響まで可視化
• 最新技術を活用した文献データベースの提供
• 産学官連携で目指すAIセキュリティの未来

基礎研究の蓄積を活かした包括的な情報基盤の構築

　KDDI総合研究所の披田野氏は「長年蓄積してきたAIセキュリティの基礎研究の知見を活かし、AIの安全な利活用を支援する窓口となるサイトを目指している」と説明する。研究開始当初は機械学習モデルの活用が企業の一部に限られていたが、近年のAI普及により状況は一変した。「ChatGPTに代表される生成AIの登場で、誰もがAIを利用できる時代となり、セキュリティリスクへの対応も従来とは異なるアプローチが必要になっています」と披田野氏は危機感を示す。

　この背景から、同サイトは専門家から一般ユーザーまで幅広い層をターゲットに、最適な情報提供を行う方針を採用。「従来のAIセキュリティ情報の発信は専門家向けに特化したものが多く、実際にAIを利用する一般ユーザーには届きにくい状況でした。しかし、セキュリティ対策の実効性を高めるには、一般ユーザーの理解と行動変容が不可欠です」（披田野氏）

独自の「AIセキュリティマップ」で社会的影響まで可視化

　同サイトの最大の特徴は、AIセキュリティマップと呼ばれる独自の体系化された情報提供にある。既存の取り組みがAIシステムへの攻撃などシステム的な観点に留まっているのに対し、AIが人や社会に与える影響まで踏み込んで整理している点が画期的だ。

　例えば、自動運転システムへの攻撃による事故リスクや、フェイクニュース生成といったAIの悪用事例も含めた包括的な情報を提供することにより、企業がAIを導入する際のリスク評価指標や、個人がAIサービスを利用する際の具体的な注意点まで、実践的な情報を分かりやすく解説している。

「既存のセキュリティマップは、システムへの攻撃手法や対策技術といった技術的な側面に焦点を当てていました。しかしAIの場合、そのリスクは経済的損失やプライバシー侵害、さらには社会的混乱にまで及ぶ可能性があります。こうした社会的影響を含めて体系化することで、より実効性の高い対策立案が可能になります」と披田野氏は説明する。

最新技術を活用した文献データベースの提供

　同サイトでは、AIセキュリティに関する論文を独自に分類した文献データベースも提供している。大規模言語モデル（LLM）を活用した最新の分類技術により研究トレンドを可視化し、膨大な文献の中から必要な情報を効率的に抽出できる仕組みを実装した。

「AIセキュリティの分野は日進月歩で、新たな攻撃手法や対策技術が次々と報告されています。最新の研究動向を把握することは、効果的な対策を講じる上で極めて重要です」とKDDI総合研究所の披田野氏。研究者からは「トレンドが分かりやすい」との評価を得ており、すでに多くの専門家が活用しているという。

産学官連携で目指すAIセキュリティの未来

「AIセキュリティポータル」の構築事業は、セキュリティ技術の研究者のみならず、政策研究を専門とするメンバーも参画するチームが、政府のAI戦略の方向性に沿う形で、AIセキュリティの社会的基盤確立を目指すプロジェクトとして推進。技術的知見だけでなく、政策や規制の観点も含めた総合的なアプローチを採用している。

　今後5年間の計画では、シンポジウムやワークショップの開催を予定している。「座学だけでなく、実践的な演習を通じてAIセキュリティへの理解を深めていただく機会を提供していきたい」と披田野氏は展望を語る。さらに、AI関連の認定団体との連携も視野に入れており、AIセキュリティ教育の基盤としての役割も果たしていく考えだ。

「当面の目標は、企業や個人がAIを安全に活用するための情報ハブとなること。そして最終的には『AIセキュリティといえばここ』と言われるような情報基盤となることを目指しています」と披田野氏は意気込みを示す。

　海外ではすでにAIセキュリティに関する様々な取り組みが始まっているが、日本語での包括的な情報源は限られている。AI活用が社会に浸透する中、その安全な利用を支える重要なインフラとして、同サイトの役割は今後ますます重要になりそうだ。

（文＝秋葉けんた／ITライター）