AI・大規模言語モデルを用いたアプリケーションのセキュリティリスクを評価する「GMO AIセキュリティ診断 for GPT」を提供開始
「GMO AIセキュリティ診断 for GPT」のWebサイト
GMOインターネットグループでサイバー攻撃対策事業を展開するGMOサイバーセキュリティ byイエラエ（以下、イエラエ）は、大規模言語モデル（LLM）を用いたアプリケーションのセキュリティリスクを可視化する新サービス「GMO AIセキュリティ診断 for GPT」の提供を開始しました。
「GMO AIセキュリティ診断 for GPT」は、GPTなどの大規模言語モデル（LLM）を組み込んだアプリケーションに対して敵対的プロンプト（Adversarial Prompting）を用いた擬似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査するサービスです。
イエラエの、膨大な脆弱性診断の実績・経験に基づく高い技術力と、GPTなどの大規模言語モデル（LLM）への最新の攻撃手法の知見を組み合わせることで、セキュリティリスクを可視化し、ユーザーのシステムへのセキュリティ対策を支援します。
イエラエの、膨大な脆弱性診断の実績・経験に基づく高い技術力と、GPTなどの大規模言語モデル（LLM）への最新の攻撃手法の知見を組み合わせることで、セキュリティリスクを可視化し、ユーザーのシステムへのセキュリティ対策を支援します。
対話型アプリケーションの普及が生む新たなリスク
生成AIの研究や活用が進む中で、OpenAIの「GPT」、Googleの「PaLM」、Metaの「LLaMA」といったさまざまな大規模言語モデル（LLM）の登場によって言語処理タスクの高精度な実行が可能となりました。また2023年3月2日にChatGPTのAPI（アプリケーションプログラミングインターフェース）が一般公開されたことで、製品やサービスにGPTを利用する対話型のアプリケーションが急速に普及しています。しかし、GPTベースのサービスが急速に普及する一方で、対話を通じてサービスの設定情報や秘密情報を抜き出そうとする攻撃（プロンプトインジェクション）が行われるなど、新たなセキュリティリスクが発生しています。
今回の「GMO AIセキュリティ診断 for GPT」は、GPTなどのLLMを組み込んだサービスに対するセキュリティリスクに対応しています。機密情報や金融資産を扱うWebアプリケーションに対する脆弱性診断の実績と経験に基づく高い技術力に加え、GPTなどの大規模言語モデル（LLM）に関する最新の攻撃手法の知見を組み合わせることで、ユーザーのセキュリティ対策を支援するというものです。
今回の「GMO AIセキュリティ診断 for GPT」は、GPTなどのLLMを組み込んだサービスに対するセキュリティリスクに対応しています。機密情報や金融資産を扱うWebアプリケーションに対する脆弱性診断の実績と経験に基づく高い技術力に加え、GPTなどの大規模言語モデル（LLM）に関する最新の攻撃手法の知見を組み合わせることで、ユーザーのセキュリティ対策を支援するというものです。
「敵対的プロンプト」を利用した攻撃に対応
GPTなどの大規模言語モデル（LLM）を利用して構築したアプリケーションは、プロンプトを攻撃の入口として、敵対的プロンプト（Adversarial Prompting）を利用した攻撃が行われる可能性があります。
敵対的プロンプトとは大規模言語モデル（LLM）の出力を意図しないものへ誘導するよう設計された一連の入力のことです。大規模言語モデル（LLM）を利用してアプリケーションを構築する際には、一般的なWebアプリケーションのリスクに加え、こうした大規模言語モデル（LLM）を利用して構築したアプリケーション特有のリスクを認識し、セキュリティ対策を講じることが重要です。
敵対的プロンプトに関するセキュリティリスクの例として、以下のようなものが存在します。
・プロンプトインジェクションによる出力の乗っ取り
・プロンプトリークによる秘密情報の漏洩
・コンテンツポリシーの回避による非倫理的なコンテンツの出力（ジェイルブレイク）
「GMO AIセキュリティ診断 for GPT」は、上記のような大規模言語モデル（LLM）を利用して構築したアプリケーション特有のセキュリティリスクに対応可能な診断パッケージです。予算や求めるセキュリティレベルに応じて3つの診断プランから選択が可能です。
敵対的プロンプトとは大規模言語モデル（LLM）の出力を意図しないものへ誘導するよう設計された一連の入力のことです。大規模言語モデル（LLM）を利用してアプリケーションを構築する際には、一般的なWebアプリケーションのリスクに加え、こうした大規模言語モデル（LLM）を利用して構築したアプリケーション特有のリスクを認識し、セキュリティ対策を講じることが重要です。
敵対的プロンプトに関するセキュリティリスクの例として、以下のようなものが存在します。
・プロンプトインジェクションによる出力の乗っ取り
・プロンプトリークによる秘密情報の漏洩
・コンテンツポリシーの回避による非倫理的なコンテンツの出力（ジェイルブレイク）
「GMO AIセキュリティ診断 for GPT」は、上記のような大規模言語モデル（LLM）を利用して構築したアプリケーション特有のセキュリティリスクに対応可能な診断パッケージです。予算や求めるセキュリティレベルに応じて3つの診断プランから選択が可能です。
ライトプラン
安価に敵対的プロンプトのセキュリティリスクを可視化したいユーザー向けのプラン
ベーシックプラン
初めてGPTなどの大規模言語モデル（LLM）を用いたアプリケーションを構築するユーザー向けのプラン
アドバンスドプラン
関連機能のセキュリティリスクを総合的に評価したいユーザー向けのプラン
サービス内容比較
価格について
プランの詳細、価格については、サービスページよりお問い合わせください。
サービスページURL
https://gmo-cybersecurity.com/service/ai-security-for-gpt
新たなサービスが登場すると、それに対するセキュリティリスクは少なからず生まれてきます。便利なサービスを使いこなすことで、よりコアな業務に注力していくことも重要ですが、システムの復旧不能なダウンや企業機密やユーザーの個人情報の漏洩などにもつながりかねないリスクにしっかり対応することも、企業には求められるのではないでしょうか。
国内外のハッキングやセキュリティ分野のコンテストで実績のあるイエラエは、攻撃者目線でのセキュリティ対策サービスを多数提供しています。今回提供が始まった「GMO AIセキュリティ診断 for GPT」も期待ができるでしょう。
サービスページURL
https://gmo-cybersecurity.com/service/ai-security-for-gpt
新たなサービスが登場すると、それに対するセキュリティリスクは少なからず生まれてきます。便利なサービスを使いこなすことで、よりコアな業務に注力していくことも重要ですが、システムの復旧不能なダウンや企業機密やユーザーの個人情報の漏洩などにもつながりかねないリスクにしっかり対応することも、企業には求められるのではないでしょうか。
国内外のハッキングやセキュリティ分野のコンテストで実績のあるイエラエは、攻撃者目線でのセキュリティ対策サービスを多数提供しています。今回提供が始まった「GMO AIセキュリティ診断 for GPT」も期待ができるでしょう。
安蔵 靖志
Techジャーナリスト／家電エバンジェリスト
家電製品協会認定 家電製品総合アドバイザー（プラチナグレード）、スマートマスター。AllAbout デジタル・家電ガイド。ビジネス・IT系出版社を経てフリーに。デジタル家電や生活家電に関連する記事を執筆するほか、家電のスペシャリストとしてテレビやラジオ、新聞、雑誌など多数のメディアに出演。KBCラジオ「キャイ～ンの家電ソムリエ」にレギュラー出演するほか、ラジオ番組の家電製品紹介コーナーの商品リサーチ・構成にも携わっている。
-
1
ダイソー・セリア・キャンドゥ 100円ショップのパソコン周りクリー...
-
2
8つのポイントをチェックして「エアコン節電」、正しく賢く、快適に使...
-
3
逸品発見！100均電子レンジ調理器6選。焼き魚にだし巻き卵、マカロ...
-
4
テキストから音楽を作成できるSuno AIでイケてる音楽を作るには...
-
5
お風呂タイムが充実！100円ショップで買える防滴 Bluetoot...
-
エンジニア・クリエイター向けカンファレンス「GMO Developers Day 2023」の映像アーカイブを公開
-
GMOインターネットグループ、NVIDIA H200 Tensor コア GPU を採用した生成AI向けのGPUクラウドサービスを国内最速提供へ
-
無料で「Claude3」「GPT-4」の利用が可能に！生成AIプロンプトポータル「教えてAI byGMO」が大幅アップデート！
-
GMOメディアの「日本語言語モデルの実践的評価」研究が人工知能学会に採択、IT分野での大規模言語モデルの能力差を解明
-
レンタルサーバーサービス「ConoHa WING」が、AIを活用したブログ記事作成支援ツール「Blog Creator」の提供を開始
-
「カラーミーショップ」がAI商品画像作成サービス「Fotographer.ai」の提供を開始
-
1
ダイソー・セリア・キャンドゥ 100円ショップのパソコン周りクリーナーおすすめ6種を試してみた
-
2
8つのポイントをチェックして「エアコン節電」、正しく賢く、快適に使うには？
-
3
逸品発見！100均電子レンジ調理器6選。焼き魚にだし巻き卵、マカロニまで！
-
4
テキストから音楽を作成できるSuno AIでイケてる音楽を作るには？ 音楽制作経験者が試してみた
-
5
お風呂タイムが充実！100円ショップで買える防滴 Bluetooth スピーカー3種を比べてみた