AI・大規模言語モデルを用いたアプリケーションのセキュリティリスクを評価する「GMO AIセキュリティ診断 for GPT」を提供開始

安蔵 靖志

AIGMOインターネットグループセキュリティ

「GMO AIセキュリティ診断 for GPT」のWebサイト

GMOインターネットグループでサイバー攻撃対策事業を展開するGMOサイバーセキュリティ byイエラエ(以下、イエラエ)は、大規模言語モデル(LLM)を用いたアプリケーションのセキュリティリスクを可視化する新サービス「GMO AIセキュリティ診断 for GPT」の提供を開始しました。
「GMO AIセキュリティ診断 for GPT」は、GPTなどの大規模言語モデル(LLM)を組み込んだアプリケーションに対して敵対的プロンプト(Adversarial Prompting)を用いた擬似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査するサービスです。

イエラエの、膨大な脆弱性診断の実績・経験に基づく高い技術力と、GPTなどの大規模言語モデル(LLM)への最新の攻撃手法の知見を組み合わせることで、セキュリティリスクを可視化し、ユーザーのシステムへのセキュリティ対策を支援します。

対話型アプリケーションの普及が生む新たなリスク

生成AIの研究や活用が進む中で、OpenAIの「GPT」、Googleの「PaLM」、Metaの「LLaMA」といったさまざまな大規模言語モデル(LLM)の登場によって言語処理タスクの高精度な実行が可能となりました。また2023年3月2日にChatGPTのAPI(アプリケーションプログラミングインターフェース)が一般公開されたことで、製品やサービスにGPTを利用する対話型のアプリケーションが急速に普及しています。しかし、GPTベースのサービスが急速に普及する一方で、対話を通じてサービスの設定情報や秘密情報を抜き出そうとする攻撃(プロンプトインジェクション)が行われるなど、新たなセキュリティリスクが発生しています。

今回の「GMO AIセキュリティ診断 for GPT」は、GPTなどのLLMを組み込んだサービスに対するセキュリティリスクに対応しています。機密情報や金融資産を扱うWebアプリケーションに対する脆弱性診断の実績と経験に基づく高い技術力に加え、GPTなどの大規模言語モデル(LLM)に関する最新の攻撃手法の知見を組み合わせることで、ユーザーのセキュリティ対策を支援するというものです。

「敵対的プロンプト」を利用した攻撃に対応

GPTなどの大規模言語モデル(LLM)を利用して構築したアプリケーションは、プロンプトを攻撃の入口として、敵対的プロンプト(Adversarial Prompting)を利用した攻撃が行われる可能性があります。

敵対的プロンプトとは大規模言語モデル(LLM)の出力を意図しないものへ誘導するよう設計された一連の入力のことです。大規模言語モデル(LLM)を利用してアプリケーションを構築する際には、一般的なWebアプリケーションのリスクに加え、こうした大規模言語モデル(LLM)を利用して構築したアプリケーション特有のリスクを認識し、セキュリティ対策を講じることが重要です。

敵対的プロンプトに関するセキュリティリスクの例として、以下のようなものが存在します。

・プロンプトインジェクションによる出力の乗っ取り
・プロンプトリークによる秘密情報の漏洩
・コンテンツポリシーの回避による非倫理的なコンテンツの出力(ジェイルブレイク) 

「GMO AIセキュリティ診断 for GPT」は、上記のような大規模言語モデル(LLM)を利用して構築したアプリケーション特有のセキュリティリスクに対応可能な診断パッケージです。予算や求めるセキュリティレベルに応じて3つの診断プランから選択が可能です。

ライトプラン

安価に敵対的プロンプトのセキュリティリスクを可視化したいユーザー向けのプラン

ベーシックプラン

初めてGPTなどの大規模言語モデル(LLM)を用いたアプリケーションを構築するユーザー向けのプラン

アドバンスドプラン

関連機能のセキュリティリスクを総合的に評価したいユーザー向けのプラン

サービス内容比較

価格について

プランの詳細、価格については、サービスページよりお問い合わせください。

サービスページURL
https://gmo-cybersecurity.com/service/ai-security-for-gpt

新たなサービスが登場すると、それに対するセキュリティリスクは少なからず生まれてきます。便利なサービスを使いこなすことで、よりコアな業務に注力していくことも重要ですが、システムの復旧不能なダウンや企業機密やユーザーの個人情報の漏洩などにもつながりかねないリスクにしっかり対応することも、企業には求められるのではないでしょうか。

国内外のハッキングやセキュリティ分野のコンテストで実績のあるイエラエは、攻撃者目線でのセキュリティ対策サービスを多数提供しています。今回提供が始まった「GMO AIセキュリティ診断 for GPT」も期待ができるでしょう。

安蔵 靖志

Techジャーナリスト/家電エバンジェリスト
家電製品協会認定 家電製品総合アドバイザー(プラチナグレード)、スマートマスター。AllAbout デジタル・家電ガイド。ビジネス・IT系出版社を経てフリーに。デジタル家電や生活家電に関連する記事を執筆するほか、家電のスペシャリストとしてテレビやラジオ、新聞、雑誌など多数のメディアに出演。KBCラジオ「キャイ~ンの家電ソムリエ」にレギュラー出演するほか、ラジオ番組の家電製品紹介コーナーの商品リサーチ・構成にも携わっている。

ranking

  • 1
    サムネイル

    ダイソー・セリア・キャンドゥ 100円ショップのパソコン周りクリーナーおすすめ6種を試してみた

  • 2
    サムネイル

    研究者のマニアックな視点と五感でムシを知る—— 上野の国立科学博物館 特別展「昆虫 MANIAC」

  • 3
    サムネイル

    どの位まで聞こえるの?徹底性能比較!100円ショップの「防犯ブザー」&「ホイッスル」4選

  • 4
    サムネイル

    逸品発見!100均電子レンジ調理器6選。焼き魚にだし巻き卵、マカロニまで!

  • 5
    サムネイル

    お風呂タイムが充実!100円ショップで買える防滴 Bluetooth スピーカー3種を比べてみた

  • 1
    サムネイル

    研究者のマニアックな視点と五感でムシを知る—— 上野の国立科学博物館 特別展「昆虫 MANIAC」

  • 2
    サムネイル

    今日からできる、「なんかいいな」と思わせる写真の撮り方

  • 3
    サムネイル

    ダイソー・セリア・キャンドゥ 100円ショップのパソコン周りクリーナーおすすめ6種を試してみた

  • 4
    サムネイル

    大きなくしゃみと小さなくしゃみ、なぜ人によって音の大きさが違うのか?

  • 5
    サムネイル

    どの位まで聞こえるの?徹底性能比較!100円ショップの「防犯ブザー」&「ホイッスル」4選

  • 1
    サムネイル

    研究者のマニアックな視点と五感でムシを知る—— 上野の国立科学博物館 特別展「昆虫 MANIAC」

  • 2
    サムネイル

    大きなくしゃみと小さなくしゃみ、なぜ人によって音の大きさが違うのか?

  • 3
    サムネイル

    ダイソー・セリア・キャンドゥ 100円ショップのパソコン周りクリーナーおすすめ6種を試してみた

  • 4
    サムネイル

    これなら置ける!床面積50cm四方に“ほぼ”収まる「セカンド冷凍庫」、家電エバンジェリストの8選

  • 5
    サムネイル

    逸品発見!100均電子レンジ調理器6選。焼き魚にだし巻き卵、マカロニまで!

internet for you.