IPA「米国における AI のセキュリティ脅威・リスクの認知調査レポート」公開 | ScanNetSecurity
2024.06.23(日)

IPA「米国における AI のセキュリティ脅威・リスクの認知調査レポート」公開

IPAは、IPAテクニカルウォッチとして「米国におけるAIのセキュリティ脅威・リスクの認知調査レポート」を公開した。概要(日本語)と本文(英語)英語全文をダウンロードすることが可能。

調査・レポート・白書・ガイドライン
生成AIの誤用によるビジネスリスク
  • 生成AIの誤用によるビジネスリスク
  • 「米国におけるAIのセキュリティ脅威・リスクの認知調査レポート」

 独立行政法人情報処理推進機構(IPA)は5月30日、IPAテクニカルウォッチとして「米国におけるAIのセキュリティ脅威・リスクの認知調査レポート」を公開した。概要(日本語)と本文(英語)英語全文をダウンロードすることが可能。

 同レポートは、AIサービスの普及が加速度的に進む中で、AIのセキュリティ脅威がどう認知されているかを把握することを目的に、米国におけるAIに関するセキュリティ脅威とその認知に関する調査を実施したもの。

 調査期間は2024年1月~2月、80以上の関連文献を調査し重要文献10件を抽出、AI・サイバーセキュリティ・行政・法務等のさまざまな領域の専門家10名のインタビューにより調査している。これらにより、「セキュリティ脅威の5つの類型における脅威と認知状況の実態」「各分野のリスクの大きさ(時期・影響度)に関するマップ」を分析した。

 レポート(概要)の内容は次の通り。
1:AI利用の実態
2:AIで強化された従来のサイバー攻撃
3:AIを利用した虚偽情報
4:AIによるシステム障害とAIシステムへの攻撃
5:AIによる国家安全保障上のリスク
6:生成AIの誤用によるビジネスリスク

 概要によると、AIにより既存の攻撃を素早く強力かつ効率的に行う傾向がみられる。特にAIフィッシングの急増・高度化、組織へのAIによる執拗な攻撃は観測されており、大きなリスクと認識している。一方で、AIを用いた新たな攻撃手法はまだ確認されておらず、高度な攻撃・マルウェア自動生成といった脅威が大きくなるには時間があるとしている。

 AIを利用した虚偽情報は、言語や文化などの壁がなくなることで海外国家支援アクターからの攻撃が懸念される。すでに、悪意の生成AIモデルは2021年から出現している。実際に、有名人のフェイク画像による中傷は当たり前となり、フェイクの事故画像による株価の乱高下、選挙候補の中傷・選挙妨害にも生成AIが使われた可能性がある。

 生成AIの誤用によるビジネスリスクでは、営業秘密情報・個人情報が漏えいするリスクは周知されているが、ソフトウェア開発において生成AIが脆弱なコードを出力するリスクも指摘している。なお、米国マッキンゼー調査によれば「生成AI利用社内規則がある」との回答は全体の21%だったという。

《吉澤 亨史( Kouji Yoshizawa )》

編集部おすすめの記事

特集

調査・レポート・白書・ガイドライン アクセスランキング

  1. 日本の CISO の 66%「ヒューマンエラーは最大のサイバー脆弱性」 ~ プルーフポイント「CISO意識調査レポート 2024」

    日本の CISO の 66%「ヒューマンエラーは最大のサイバー脆弱性」 ~ プルーフポイント「CISO意識調査レポート 2024」

  2. 4組織に1組織で標的型攻撃による内部侵入が発生(トレンドマイクロ)

    4組織に1組織で標的型攻撃による内部侵入が発生(トレンドマイクロ)

  3. 7月のフィッシング報告状況、「.cn ドメイン」のフィッシングメールを多く確認

    7月のフィッシング報告状況、「.cn ドメイン」のフィッシングメールを多く確認

  4. 中小企業で数千万円単位の被害も、JNSA「インシデント損害額調査レポート 第2版」公開

  5. セキュリティ燃え尽き症候群 5 大原因 ~ ソフォス調査

  6. 総務省「無線LANセキュリティガイドライン」更新、自宅と公衆に分冊

  7. Proofpoint Blog 36回「身代金を払わない結果 日本のランサムウェア感染率減少? 感染率と身代金支払率 15 ヶ国調査 2024」

  8. 10代の9人に1人が詐欺等の被害、ワンクリック詐欺が最多

  9. ランサムウェア身代金支払率、企業規模と相関 ~ ソフォス調査

  10. IPAがシステム開発のモデル契約書 第二版公開、セキュリティ仕様書の作成プロセスを明確化

アクセスランキングをもっと見る

「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」

ページ右上「ユーザー登録」から会員登録すれば会員限定記事を閲覧できます。毎週月曜の朝、先週一週間のセキュリティ動向を総括しふりかえるメルマガをお届け。(写真:ScanNetSecurity 名誉編集長 りく)

×