リチェルカセキュリティ、対話型AIサービスの脆弱性診断を提供 | ScanNetSecurity
2024.07.20(土)

リチェルカセキュリティ、対話型AIサービスの脆弱性診断を提供

 株式会社リチェルカセキュリティは7月5日、対話型AIサービスに対する脆弱性診断の提供を開始すると発表した。

製品・サービス・業界動向
入力プロンプトと内部プロンプト

 株式会社リチェルカセキュリティは7月5日、対話型AIサービスに対する脆弱性診断の提供を開始すると発表した。

 対話型AIサービスへの攻撃は、攻撃者が特殊な入力プロンプトをソフトウェアへ送信し、その応答を入力プロンプトにフィードバックするサイクルを繰り返すことで実行された敵対的プロンプトが、ソフトウェア内部の情報を詐取したり、不正な応答を引き出したり、通常禁止された動作を対話型AIサービスへ強要する。敵対的プロンプトへの対策としては、入出力のフィルタ機構の導入があるが日々多様化する攻撃手法への対応が求められる。

 同社の 対話型AIサービスに対する診断メニューは下記の通り。

・対話型AIサービスのブラックボックス診断
 同社のAIエンジニアチームが、敵対的プロンプトを用いてサービスを診断。頻出の攻撃パターンからサービスに特化したパターンまで、多角的な視点からサービスを診断可能。

・対話型AIサービスのホワイトボックス診断
 内部プロンプトの実装を考慮したソフトウェア全体への診断を実施。対話型AIサービスへのファイアウォールの実装など、周辺ソフトウェアを含めた診断にも対応。

・対話型AIサービスを対象としたセキュリティコンサルティング
 堅牢なプロンプト設計や、対話型AIの応答からの意図しない情報流出対策など、弊社研究者が対話型AIサービスのセキュリティ品質向上に関するノウハウを提供。

 同社では日本語環境に最適化された独自の敵対的プロンプトのデータセットを構築し、対話型AIに対する脆弱性診断サービスに取り入れている。

 同社の対話型AIサービス診断では、内部プロンプトや機密情報の漏えいリスク、応答によるレピュテーションの低下リスクを検証し、さらに実際にレピュテーション汚染が行われているかの調査も可能。

《高橋 潤哉》

編集部おすすめの記事

特集

製品・サービス・業界動向 アクセスランキング

  1. マクニカネットワークスが忘れない CrowdStrike 三つのエピソード

    マクニカネットワークスが忘れない CrowdStrike 三つのエピソード

  2. 82歳、情報セキュリティマネジメント試験合格最年長記録3年2ヶ月ぶり更新 ~ 令和4年度上期

    82歳、情報セキュリティマネジメント試験合格最年長記録3年2ヶ月ぶり更新 ~ 令和4年度上期

  3. 「ITパスポート試験」が1位に ~ 日本の資格検定アワード2023

    「ITパスポート試験」が1位に ~ 日本の資格検定アワード2023

  4. 東京海上日動と連携、Microsoft Azureの障害やサイバー攻撃を補償

  5. iOS 16.3 配信開始、Apple ID認証で物理セキュリティキーにも対応

  6. 文科省「デジタル人材育成推進協議会」初回議事録公開

  7. サイバーセキュリティ防衛技官募集、実務経験13年以上の31歳から58歳(防衛省)

  8. NTTドコモグループ 、カスタマーハラスメントに対する基本方針を策定

  9. NTTコミュニケーションズの業務委託先社長を恐喝未遂容疑で逮捕

  10. エフセキュアのSaaS型セキュリティ ソリューション、旭コムテクが採用(エフセキュア)

アクセスランキングをもっと見る

「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」

ページ右上「ユーザー登録」から会員登録すれば会員限定記事を閲覧できます。毎週月曜の朝、先週一週間のセキュリティ動向を総括しふりかえるメルマガをお届け。(写真:ScanNetSecurity 名誉編集長 りく)

×