AI・大規模言語モデルを用いたアプリケーションのセキュリティリスクを評価する「GMO AIセキュリティ診断 for GPT」を提供開始

安蔵 靖志

AIGMOインターネットグループセキュリティ

「GMO AIセキュリティ診断 for GPT」のWebサイト

GMOインターネットグループでサイバー攻撃対策事業を展開するGMOサイバーセキュリティ byイエラエ(以下、イエラエ)は、大規模言語モデル(LLM)を用いたアプリケーションのセキュリティリスクを可視化する新サービス「GMO AIセキュリティ診断 for GPT」の提供を開始しました。
「GMO AIセキュリティ診断 for GPT」は、GPTなどの大規模言語モデル(LLM)を組み込んだアプリケーションに対して敵対的プロンプト(Adversarial Prompting)を用いた擬似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査するサービスです。

イエラエの、膨大な脆弱性診断の実績・経験に基づく高い技術力と、GPTなどの大規模言語モデル(LLM)への最新の攻撃手法の知見を組み合わせることで、セキュリティリスクを可視化し、ユーザーのシステムへのセキュリティ対策を支援します。

対話型アプリケーションの普及が生む新たなリスク

生成AIの研究や活用が進む中で、OpenAIの「GPT」、Googleの「PaLM」、Metaの「LLaMA」といったさまざまな大規模言語モデル(LLM)の登場によって言語処理タスクの高精度な実行が可能となりました。また2023年3月2日にChatGPTのAPI(アプリケーションプログラミングインターフェース)が一般公開されたことで、製品やサービスにGPTを利用する対話型のアプリケーションが急速に普及しています。しかし、GPTベースのサービスが急速に普及する一方で、対話を通じてサービスの設定情報や秘密情報を抜き出そうとする攻撃(プロンプトインジェクション)が行われるなど、新たなセキュリティリスクが発生しています。

今回の「GMO AIセキュリティ診断 for GPT」は、GPTなどのLLMを組み込んだサービスに対するセキュリティリスクに対応しています。機密情報や金融資産を扱うWebアプリケーションに対する脆弱性診断の実績と経験に基づく高い技術力に加え、GPTなどの大規模言語モデル(LLM)に関する最新の攻撃手法の知見を組み合わせることで、ユーザーのセキュリティ対策を支援するというものです。

「敵対的プロンプト」を利用した攻撃に対応

GPTなどの大規模言語モデル(LLM)を利用して構築したアプリケーションは、プロンプトを攻撃の入口として、敵対的プロンプト(Adversarial Prompting)を利用した攻撃が行われる可能性があります。

敵対的プロンプトとは大規模言語モデル(LLM)の出力を意図しないものへ誘導するよう設計された一連の入力のことです。大規模言語モデル(LLM)を利用してアプリケーションを構築する際には、一般的なWebアプリケーションのリスクに加え、こうした大規模言語モデル(LLM)を利用して構築したアプリケーション特有のリスクを認識し、セキュリティ対策を講じることが重要です。

敵対的プロンプトに関するセキュリティリスクの例として、以下のようなものが存在します。

・プロンプトインジェクションによる出力の乗っ取り
・プロンプトリークによる秘密情報の漏洩
・コンテンツポリシーの回避による非倫理的なコンテンツの出力(ジェイルブレイク) 

「GMO AIセキュリティ診断 for GPT」は、上記のような大規模言語モデル(LLM)を利用して構築したアプリケーション特有のセキュリティリスクに対応可能な診断パッケージです。予算や求めるセキュリティレベルに応じて3つの診断プランから選択が可能です。

ライトプラン

安価に敵対的プロンプトのセキュリティリスクを可視化したいユーザー向けのプラン

ベーシックプラン

初めてGPTなどの大規模言語モデル(LLM)を用いたアプリケーションを構築するユーザー向けのプラン

アドバンスドプラン

関連機能のセキュリティリスクを総合的に評価したいユーザー向けのプラン

サービス内容比較

価格について

プランの詳細、価格については、サービスページよりお問い合わせください。

サービスページURL
https://gmo-cybersecurity.com/service/ai-security-for-gpt

新たなサービスが登場すると、それに対するセキュリティリスクは少なからず生まれてきます。便利なサービスを使いこなすことで、よりコアな業務に注力していくことも重要ですが、システムの復旧不能なダウンや企業機密やユーザーの個人情報の漏洩などにもつながりかねないリスクにしっかり対応することも、企業には求められるのではないでしょうか。

国内外のハッキングやセキュリティ分野のコンテストで実績のあるイエラエは、攻撃者目線でのセキュリティ対策サービスを多数提供しています。今回提供が始まった「GMO AIセキュリティ診断 for GPT」も期待ができるでしょう。

安蔵 靖志

Techジャーナリスト/家電エバンジェリスト
家電製品協会認定 家電製品総合アドバイザー(プラチナグレード)、スマートマスター。AllAbout デジタル・家電ガイド。ビジネス・IT系出版社を経てフリーに。デジタル家電や生活家電に関連する記事を執筆するほか、家電のスペシャリストとしてテレビやラジオ、新聞、雑誌など多数のメディアに出演。KBCラジオ「キャイ~ンの家電ソムリエ」にレギュラー出演するほか、ラジオ番組の家電製品紹介コーナーの商品リサーチ・構成にも携わっている。

ranking

  • 1
    サムネイル

    他人の生きざまに触れると人生観が変わるかも!? ──独立系書店店主が選ぶ「自伝・ノンフィクション」5選

  • 2
    サムネイル

    「たこ焼き器」で作る“たこ焼き以外レシピ”は予想以上においしくて楽しい

  • 3
    サムネイル

    ダイソー・セリア・キャンドゥ 100円ショップのパソコン周りクリーナーおすすめ6種を試してみた

  • 4
    サムネイル

    今日からできる、「なんかいいな」と思わせる写真の撮り方

  • 5
    サムネイル

    「現在も人が住んでいる、世界で一番古い都市ランキング」どこ?いつからあるの?

  • 1
    サムネイル

    他人の生きざまに触れると人生観が変わるかも!? ──独立系書店店主が選ぶ「自伝・ノンフィクション」5選

  • 2
    サムネイル

    「たこ焼き器」で作る“たこ焼き以外レシピ”は予想以上においしくて楽しい

  • 3
    サムネイル

    ダイソー・セリア・キャンドゥ 100円ショップのパソコン周りクリーナーおすすめ6種を試してみた

  • 4
    サムネイル

    今日からできる、「なんかいいな」と思わせる写真の撮り方

  • 5
    サムネイル

    音楽ライターが厳選!レインポンチョからワンタッチテントまで、夏の野外音楽フェスで役立つ便利アイテム7選

  • 1
    サムネイル

    今日からできる、「なんかいいな」と思わせる写真の撮り方

  • 2
    サムネイル

    お手入れ簡単!プラスα機能が嬉しいサーキュレーター、家電エバンジェリストが選ぶ7品

  • 3
    サムネイル

    ダイソー・セリア・キャンドゥ 100円ショップのパソコン周りクリーナーおすすめ6種を試してみた

  • 4
    サムネイル

    音楽ライターが厳選!レインポンチョからワンタッチテントまで、夏の野外音楽フェスで役立つ便利アイテム7選

  • 5
    サムネイル

    他人の生きざまに触れると人生観が変わるかも!? ──独立系書店店主が選ぶ「自伝・ノンフィクション」5選

internet for you.