AIの危険な使い方を即時指導、セキュリティ教育のKnowBe4がAIエージェント保護へ

世界で7万社以上の顧客を持ち、セキュリティ教育・訓練を手がけるKnowBe4は、AIエージェントの行動を監視・管理する「Agent Risk Manager」を日本向けに発表した。日本市場への提供開始は2027年度を目指している。
同製品は、AIの利用状況を把握し、危険な操作を制御するとともに、従業員によるリスクのある操作を検知してリアルタイムで指導する。フィッシングメールを想定した訓練など、従業員向けの対策に強みを持つ同社は、AIエージェントの保護にも事業領域を広げる。
11月4日の記者説明会では、AIエージェントの導入状況や利用に伴うリスクに関する調査結果が示された。また、ブライアン・パルマCEOは、今回の製品投入の背景と今後の戦略を説明した。
日本で進むAIエージェントの導入、リスクも顕在化

同社が2026年7月に公表した調査によると、日本在勤のセキュリティリーダー75人のうち、79%がAIエージェントを業務ワークフローに導入済みと回答。世界平均の58%を上回り、調査対象の13の国・地域で最も高かった。
一方、同社の別の調査『AIによるミスを、会社は「罰する」のか「学ぶ」のか』(2026年9月)では、セキュリティ業務を担う社員118人のうち55.9%が、生成AIやAIエージェントに起因するミスやインシデントを自ら経験した、または周囲で見聞きしたと回答した。このうち、ミスやインシデントを経験・見聞きした66人に具体的な内容を尋ねたところ(複数回答)、「機密情報の漏洩」が50.0%、「メール・ファイルの誤送信」が48.5%に上る。
なかでも同社が注目したのは、AIによる権限外アクセスだ。この66人のうち21.2%が「AIが権限のないデータやシステムにアクセスした」と回答した。同社は、今後さらにAIの業務活用を進めるには、その動きを監視・管理する仕組みを整える必要があると指摘した。

こうした課題に対し、同社は、AIを利用する従業員への教育と、業務を担うAIエージェントの監視・制御を組み合わせる方針を示した。
従業員には、機密情報を不用意に入力せず、AIの回答を適切に扱うよう促す。一方、AIエージェントについては、不正な指示に従ったり、権限のないデータやシステムにアクセスしたりしないよう、その行動を監視・管理する。
AIの利用を把握・制御し、危険な操作には即時指導
この考え方を具体化したのが、「Agent Risk Manager」である。同社の説明によると、主な機能は、「可視化・検出(Discover)」「統制・制御(Govern)」「コーチング(Coach)」の3つだ。

まず「可視化・検出」では、Microsoft Copilot、Claude、Gemini Enterprise、ChatGPT Enterpriseなどの主要AIサービスとのAPI連携や、Chrome、Edge向けのブラウザ拡張機能を通じて、社内のAI利用状況を把握する。会社が把握していない「シャドーAI」を含め、社内で利用されているAIツールやエージェントを検出し、一覧化する。連携したAIエージェントについては、ユーザーとのやり取りやツールの実行状況も監視し、機密情報の漏洩や権限を超えた操作につながるリスクを検知する。
次の「統制・制御」では、会社のルールに応じて、AIサービスへのアクセスに「許可」「警告」「ブロック」を適用する。許可されたサービスはそのまま使えるようにし、注意が必要な場合はブラウザ内に警告を表示する。利用が禁止されているサービスへのアクセスはブロックし、承認済みの代替ツールを案内する。単に利用を止めるのではなく、安全な方法で業務を続けられるようにする仕組みだ。
「コーチング」では、従業員によるリスクのある操作を検知すると、何が問題で、なぜ危険なのか、どう行動すべきかをリアルタイムで伝える。通知はブラウザ内のほか、同社のコーチング機能「Real-Time Coaching」との連動により、Slack、Microsoft Teams、Google Chatでも配信できる。
単に操作を止めたり、間違いを指摘したりするだけでなく、業務のなかで安全な使い方を理解してもらい、同様の危険な操作を繰り返さないようにする狙いだ。
人への教育で培った知見を、AIの安全な利用にも生かす
質疑応答では、人へのセキュリティ教育に強みを持つ同社が、AIエージェントの保護でどう差別化するのかが問われた。
同社は、リアルタイムコーチングを通じて、危険な操作を検知するだけでなく、利用者の行動改善まで促せる点を挙げた。また、実際の脅威や訓練で再現した脅威に対するユーザーの反応を記録した、16年分の行動データも強みだと説明。AIの活用には充実したデータセットが重要だとし、こうした蓄積がAIエージェントの保護でも競争優位につながるとの考えを示した。
今回の発表でKnowBe4は、従業員向けのセキュリティ教育を軸としてきた対策を、AIエージェントの監視・管理にも広げた。人への教育で培った知見を生かし、企業の安全なAI活用を支えようとしている。
(取材・文=福永太郎)
※本稿はPR記事です。





