富士通研究所、AIをだますサイバー攻撃の耐性強化技術開発 | ScanNetSecurity
2024.04.27(土)

富士通研究所、AIをだますサイバー攻撃の耐性強化技術開発

株式会社富士通研究所は10月29日、複数の要素から成る系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。

製品・サービス・業界動向 新製品・新サービス
株式会社富士通研究所は10月29日、複数の要素から成る系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。

AI活用が様々な領域で進む中、AIの誤判定を意図的に引き起こす攻撃のリスクが懸念されているが、従来の対策は画像や音声などのメディアデータ向けに適した技術が多く、通信ログやサービス利用履歴などの系列データへの適用には、模擬偽装攻撃データを用意する難しさや精度低下といった課題があり不十分であった。

同社では、系列データに適用可能なAIモデルの耐性強化技術を開発、偽装攻撃を模擬したデータを大量に自動生成し、元の学習データセットと結合させ判定精度を維持したまま偽装攻撃への耐性を向上させることが可能となる。本技術を同社が開発したサイバー攻撃への対処要否を判断するAIモデルへ適用したところ、独自の偽装攻撃テストデータにおいて約88%誤判定を防げることを確認した。

本技術が対象とする系列データ分析AIは様々な分野で利用されているため、本技術の活用でメディアデータ向けに留まらない広範なAI活用システムの安全性向上に貢献が可能となる。

同技術の詳細は、10月26日から10月29日まで開催された「コンピュータセキュリティシンポジウム2020(CSS 2020)」でも発表された。
《ScanNetSecurity》

関連記事

Scan PREMIUM 会員限定記事

もっと見る

Scan PREMIUM 会員限定記事特集をもっと見る

カテゴリ別新着記事

「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」

ページ右上「ユーザー登録」から会員登録すれば会員限定記事を閲覧できます。毎週月曜の朝、先週一週間のセキュリティ動向を総括しふりかえるメルマガをお届け。(写真:ScanNetSecurity 名誉編集長 りく)

×