GMOインターネットグループのGMOサイバーセキュリティ byイエラエは4月27日、企業内で利用されるAIエージェント・チャットボット・RAGなどのサイバー攻撃リスクを実攻撃手法で検証し、対策を提案する新サービス「AIエージェントペネトレーションテスト」の提供を開始した。

同社のホワイトハッカーが顧客の業務フローや権限設定をヒアリングしてテストシナリオを作成。実攻撃手法を用いて、AIを起点とした情報漏えい、不正操作、権限逸脱などのリスクを可視化し、対策を提案する。調査対象はMicrosoft 365 Copilot／Azure OpenAIなどのエンタープライズAIサービス、AIエージェント、RAGシステム、チャットボットなど。

検証は、AIセーフティ・インスティテュート（AISI）発行の「AIセーフティに関するレッドチーミング手法ガイド（AIシステムのリスク対策を攻撃者視点で評価する手法をまとめた資料）」に基づいて実施する。

同社によると、AI活用が急速に進む一方で、悪意あるプロンプト混入による機密情報の流出や、外部連携を悪用したシステム全体への横展開といったリスクが課題となっているという。

詳細は下記URLを参照
https://group.gmo/news/article/10000/