ラック「生成 AI 活用システム リスク診断」提供開始 | ScanNetSecurity
2024.04.19(金)

ラック「生成 AI 活用システム リスク診断」提供開始

 株式会社ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」の提供を同日より開始すると発表した。

製品・サービス・業界動向 新製品・新サービス

 株式会社ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」の提供を同日より開始すると発表した。

 同社の「生成AI活用システム リスク診断」は、生成AIを使ったシステムを対象に特有の脆弱性が含まれていないかを評価して改善点をレポートするサービスで、「プロンプトの悪用による機密情報の窃取」、「不適切なコンテンツの表示」、「内部的に設定されたプロンプトなど知的財産の窃取」、「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価する。同サービスに含まれる評価項目は下記の通り。

・プロンプトインジェクション
システムの設定を回避して、モデルに学習されている機密情報やシステム情報を窃取できてしまう脆弱性

・ジェイルブレイク
システムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を回答できてしまう脆弱性

・プロンプトリーク
システムの内部で設定されているプロンプトを窃取できてしまう脆弱性。

・大規模言語モデル出力の改ざん
大規模言語モデル(Large Language Models:LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性

・プロンプトの大量入力によるサービス拒否
繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性

 同サービスを利用し、生成AIを使ったシステムに対し特有のセキュリティ評価を行うことで、安心・安全な生成AIシステムの開発・提供が可能となる。

《ScanNetSecurity》

関連記事

Scan PREMIUM 会員限定記事

もっと見る

Scan PREMIUM 会員限定記事特集をもっと見る

カテゴリ別新着記事

「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」

ページ右上「ユーザー登録」から会員登録すれば会員限定記事を閲覧できます。毎週月曜の朝、先週一週間のセキュリティ動向を総括しふりかえるメルマガをお届け。(写真:ScanNetSecurity 名誉編集長 りく)

×