株式会社富士通研究所は10月29日、複数の要素から成る系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。AI活用が様々な領域で進む中、AIの誤判定を意図的に引き起こす攻撃のリスクが懸念されているが、従来の対策は画像や音声などのメディアデータ向けに適した技術が多く、通信ログやサービス利用履歴などの系列データへの適用には、模擬偽装攻撃データを用意する難しさや精度低下といった課題があり不十分であった。同社では、系列データに適用可能なAIモデルの耐性強化技術を開発、偽装攻撃を模擬したデータを大量に自動生成し、元の学習データセットと結合させ判定精度を維持したまま偽装攻撃への耐性を向上させることが可能となる。本技術を同社が開発したサイバー攻撃への対処要否を判断するAIモデルへ適用したところ、独自の偽装攻撃テストデータにおいて約88％誤判定を防げることを確認した。本技術が対象とする系列データ分析AIは様々な分野で利用されているため、本技術の活用でメディアデータ向けに留まらない広範なAI活用システムの安全性向上に貢献が可能となる。同技術の詳細は、10月26日から10月29日まで開催された「コンピュータセキュリティシンポジウム2020（CSS 2020）」でも発表された。
