AI・大規模言語モデルを用いたアプリケーションのセキュリティリスクを評価する「GMO AIセキュリティ診断 for GPT」を提供開始
「GMO AIセキュリティ診断 for GPT」のWebサイト
GMOインターネットグループでサイバー攻撃対策事業を展開するGMOサイバーセキュリティ byイエラエ（以下、イエラエ）は、大規模言語モデル（LLM）を用いたアプリケーションのセキュリティリスクを可視化する新サービス「GMO AIセキュリティ診断 for GPT」の提供を開始しました。
「GMO AIセキュリティ診断 for GPT」は、GPTなどの大規模言語モデル（LLM）を組み込んだアプリケーションに対して敵対的プロンプト（Adversarial Prompting）を用いた擬似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査するサービスです。
イエラエの、膨大な脆弱性診断の実績・経験に基づく高い技術力と、GPTなどの大規模言語モデル（LLM）への最新の攻撃手法の知見を組み合わせることで、セキュリティリスクを可視化し、ユーザーのシステムへのセキュリティ対策を支援します。
イエラエの、膨大な脆弱性診断の実績・経験に基づく高い技術力と、GPTなどの大規模言語モデル（LLM）への最新の攻撃手法の知見を組み合わせることで、セキュリティリスクを可視化し、ユーザーのシステムへのセキュリティ対策を支援します。
対話型アプリケーションの普及が生む新たなリスク
生成AIの研究や活用が進む中で、OpenAIの「GPT」、Googleの「PaLM」、Metaの「LLaMA」といったさまざまな大規模言語モデル（LLM）の登場によって言語処理タスクの高精度な実行が可能となりました。また2023年3月2日にChatGPTのAPI（アプリケーションプログラミングインターフェース）が一般公開されたことで、製品やサービスにGPTを利用する対話型のアプリケーションが急速に普及しています。しかし、GPTベースのサービスが急速に普及する一方で、対話を通じてサービスの設定情報や秘密情報を抜き出そうとする攻撃（プロンプトインジェクション）が行われるなど、新たなセキュリティリスクが発生しています。
今回の「GMO AIセキュリティ診断 for GPT」は、GPTなどのLLMを組み込んだサービスに対するセキュリティリスクに対応しています。機密情報や金融資産を扱うWebアプリケーションに対する脆弱性診断の実績と経験に基づく高い技術力に加え、GPTなどの大規模言語モデル（LLM）に関する最新の攻撃手法の知見を組み合わせることで、ユーザーのセキュリティ対策を支援するというものです。
今回の「GMO AIセキュリティ診断 for GPT」は、GPTなどのLLMを組み込んだサービスに対するセキュリティリスクに対応しています。機密情報や金融資産を扱うWebアプリケーションに対する脆弱性診断の実績と経験に基づく高い技術力に加え、GPTなどの大規模言語モデル（LLM）に関する最新の攻撃手法の知見を組み合わせることで、ユーザーのセキュリティ対策を支援するというものです。
「敵対的プロンプト」を利用した攻撃に対応
GPTなどの大規模言語モデル（LLM）を利用して構築したアプリケーションは、プロンプトを攻撃の入口として、敵対的プロンプト（Adversarial Prompting）を利用した攻撃が行われる可能性があります。
敵対的プロンプトとは大規模言語モデル（LLM）の出力を意図しないものへ誘導するよう設計された一連の入力のことです。大規模言語モデル（LLM）を利用してアプリケーションを構築する際には、一般的なWebアプリケーションのリスクに加え、こうした大規模言語モデル（LLM）を利用して構築したアプリケーション特有のリスクを認識し、セキュリティ対策を講じることが重要です。
敵対的プロンプトに関するセキュリティリスクの例として、以下のようなものが存在します。
・プロンプトインジェクションによる出力の乗っ取り
・プロンプトリークによる秘密情報の漏洩
・コンテンツポリシーの回避による非倫理的なコンテンツの出力（ジェイルブレイク）
「GMO AIセキュリティ診断 for GPT」は、上記のような大規模言語モデル（LLM）を利用して構築したアプリケーション特有のセキュリティリスクに対応可能な診断パッケージです。予算や求めるセキュリティレベルに応じて3つの診断プランから選択が可能です。
敵対的プロンプトとは大規模言語モデル（LLM）の出力を意図しないものへ誘導するよう設計された一連の入力のことです。大規模言語モデル（LLM）を利用してアプリケーションを構築する際には、一般的なWebアプリケーションのリスクに加え、こうした大規模言語モデル（LLM）を利用して構築したアプリケーション特有のリスクを認識し、セキュリティ対策を講じることが重要です。
敵対的プロンプトに関するセキュリティリスクの例として、以下のようなものが存在します。
・プロンプトインジェクションによる出力の乗っ取り
・プロンプトリークによる秘密情報の漏洩
・コンテンツポリシーの回避による非倫理的なコンテンツの出力（ジェイルブレイク）
「GMO AIセキュリティ診断 for GPT」は、上記のような大規模言語モデル（LLM）を利用して構築したアプリケーション特有のセキュリティリスクに対応可能な診断パッケージです。予算や求めるセキュリティレベルに応じて3つの診断プランから選択が可能です。
ライトプラン
安価に敵対的プロンプトのセキュリティリスクを可視化したいユーザー向けのプラン
ベーシックプラン
初めてGPTなどの大規模言語モデル（LLM）を用いたアプリケーションを構築するユーザー向けのプラン
アドバンスドプラン
関連機能のセキュリティリスクを総合的に評価したいユーザー向けのプラン
サービス内容比較
価格について
プランの詳細、価格については、サービスページよりお問い合わせください。
サービスページURL
https://gmo-cybersecurity.com/service/ai-security-for-gpt
新たなサービスが登場すると、それに対するセキュリティリスクは少なからず生まれてきます。便利なサービスを使いこなすことで、よりコアな業務に注力していくことも重要ですが、システムの復旧不能なダウンや企業機密やユーザーの個人情報の漏洩などにもつながりかねないリスクにしっかり対応することも、企業には求められるのではないでしょうか。
国内外のハッキングやセキュリティ分野のコンテストで実績のあるイエラエは、攻撃者目線でのセキュリティ対策サービスを多数提供しています。今回提供が始まった「GMO AIセキュリティ診断 for GPT」も期待ができるでしょう。
サービスページURL
https://gmo-cybersecurity.com/service/ai-security-for-gpt
新たなサービスが登場すると、それに対するセキュリティリスクは少なからず生まれてきます。便利なサービスを使いこなすことで、よりコアな業務に注力していくことも重要ですが、システムの復旧不能なダウンや企業機密やユーザーの個人情報の漏洩などにもつながりかねないリスクにしっかり対応することも、企業には求められるのではないでしょうか。
国内外のハッキングやセキュリティ分野のコンテストで実績のあるイエラエは、攻撃者目線でのセキュリティ対策サービスを多数提供しています。今回提供が始まった「GMO AIセキュリティ診断 for GPT」も期待ができるでしょう。
安蔵 靖志
Techジャーナリスト／家電エバンジェリスト
家電製品協会認定 家電製品総合アドバイザー（プラチナグレード）、スマートマスター。AllAbout デジタル・家電ガイド。ビジネス・IT系出版社を経てフリーに。デジタル家電や生活家電に関連する記事を執筆するほか、家電のスペシャリストとしてテレビやラジオ、新聞、雑誌など多数のメディアに出演。KBCラジオ「キャイ～ンの家電ソムリエ」にレギュラー出演するほか、ラジオ番組の家電製品紹介コーナーの商品リサーチ・構成にも携わっている。
-
1
大ベストセラーで人生をデザインしなおそう！ ──独立系書店店主が選...
-
2
どの位まで聞こえるの？徹底性能比較！100円ショップの「防犯ブザー...
-
3
ダイソー・セリア・キャンドゥ 100円ショップのパソコン周りクリー...
-
4
今日からできる、「なんかいいな」と思わせる写真の撮り方
-
5
秋の夜長に！2024年、一気見したくなるNetflix映像作品7選
-
元インターポール 福森大喜氏のKEYNOTEほか全35セッション「GMO Developers Day」2024開催決定！
-
エンジニア・クリエイター向けカンファレンス「GMO Developers Day 2023」の映像アーカイブを公開
-
Flatt Security、TVアニメ『トリリオンゲーム』のIT・セキュリティ技術監修を担当
-
生成AIは“算数”が苦手？「9.9」と「9.11」の大小を間違えるLLMの“頭の中”
-
GMOイエラエ、世界最大級のサイバーセキュリティカンファレンス「DEF CON 32」の「Cloud Village CTF」で2年連続世界1位に
-
GMOインターネットグループの生成AI活用進む、2024年の9カ月間で100万時間超の業務時間を削減
-
1
大ベストセラーで人生をデザインしなおそう！ ──独立系書店店主が選ぶ「幸せな自分時間を取り戻す」ための4冊
-
2
どの位まで聞こえるの？徹底性能比較！100円ショップの「防犯ブザー」＆「ホイッスル」4選
-
3
ダイソー・セリア・キャンドゥ 100円ショップのパソコン周りクリーナーおすすめ6種を試してみた
-
4
今日からできる、「なんかいいな」と思わせる写真の撮り方
-
5
秋の夜長に！2024年、一気見したくなるNetflix映像作品7選