人工知能( AI )とセキュリティ | ScanNetSecurity
2025.07.19(土)
このロゴが表示されている
理由は何ですか

人工知能( AI )とセキュリティ

CyCraft ベンソン・ウーが AI で追い求める「私の仕事が世界から無くなる日」 ~ CyCraft Day レポート 画像
脆弱性と脅威
高橋 潤哉( Junya Takahashi )
高橋 潤哉( Junya Takahashi )

CyCraft ベンソン・ウーが AI で追い求める「私の仕事が世界から無くなる日」 ~ CyCraft Day レポートPR

 設立 2 年で東京に支社を設け、日本と台湾のセキュリティコミュニティ活動にも積極的すぎるほど連携する。ここには「東アジア圏にサイバーセキュリティの安全なエコシステムを立ち上げる」という明確かつ積極的な意思を感じる。今後 CyCraft が日本にどんな新しい風を吹き込んでくれるのかについては、CyCraft のユーザー企業でなくとも、CyCraft のパートナーでなくとも気になることに違いない。

活用シーンに期待 生成 AI が SOC ログ分析 ~ LogStare [Interop Tokyo 2025] 画像
研修・セミナー・カンファレンス
高橋 潤哉( Junya Takahashi )
高橋 潤哉( Junya Takahashi )

活用シーンに期待 生成 AI が SOC ログ分析 ~ LogStare [Interop Tokyo 2025]

 株式会社LogStare のブースには「SOC 無人化」などのパワーワードが掲げられていたが、最終判断は人間が行う必要があるわけでこれはあくまで製品コンセプトを瞬間的に伝えるためのキャッチコピーであろう。それよりもむしろ、この新機能はたとえば、ある程度の規模がある SOC 事業者などが一括採用し、新人オペレーターを育成するにあたっての「研修補助」「補助講師」的な役割として活用するなど、さまざまな利活用の可能性がある。

ことばの脅威「Language Threat」~ バーチャル誘拐ほか紹介 画像
調査・レポート・白書・ガイドライン
ScanNetSecurity
ScanNetSecurity

ことばの脅威「Language Threat」~ バーチャル誘拐ほか紹介

 トレンドマイクロ株式会社は5月7日、言語ベースの脅威「Language Threat」についての解説記事を発表した。

万能論でも悲観論でもない、バランスの取れたアプローチで AI 活用を ~ JPAAWG 7th General Meeting レポート #01 画像
研修・セミナー・カンファレンス
高橋 睦美
高橋 睦美

万能論でも悲観論でもない、バランスの取れたアプローチで AI 活用を ~ JPAAWG 7th General Meeting レポート #01

 今、AI を巡ってどのような懸念が浮上しているのだろうか。Kent氏によると、AI の Abuse として最も懸念されているのが「なりすまし」、いわゆる「ディープフェイク」だ

生成 AI の見えないプライバシーリスク 画像
研修・セミナー・カンファレンス
中尾 真二( Shinji Nakao )
中尾 真二( Shinji Nakao )

生成 AI の見えないプライバシーリスク

 個人情報やプライバシーリスクの視点では注意が必要な項目だ。なぜなら、プロンプトインジェクションは、必要な個人情報・プライバシー情報を直接手に入れることができるからだ。アプリケーションセキュリティの場合は、脆弱性を利用してファイルを特定し盗み出す必要がある。

生成 AI や量子技術で生まれる新たな脅威とは? 企業に求められるセキュリティ対策のパラダイムシフト 画像
脆弱性と脅威
提供:キンドリルジャパン株式会社
提供:キンドリルジャパン株式会社

生成 AI や量子技術で生まれる新たな脅威とは? 企業に求められるセキュリティ対策のパラダイムシフトPR

 AI や量子コンピューターといったテクノロジーの進化と実用化に伴い、新たなサイバーリスクが台頭してくるのはもはや不可避であり、これに対抗するためにセキュリティ対策のパラダイムシフトが加速していくことになる。

[2/25] AI を活用したサプライチェーンセキュリティの最前線を知る ~ 脆弱性診断自動化で防御力を高める秘訣 画像
研修・セミナー・カンファレンス
ScanNetSecurity
ScanNetSecurity

[2/25] AI を活用したサプライチェーンセキュリティの最前線を知る ~ 脆弱性診断自動化で防御力を高める秘訣PR

 本セミナーは NTTデータ先端技術が主催し、AI を活用したクラウド型Webアプリケーション脆弱性診断ツール「AeyeScan」を提供するエーアイセキュリティラボが協賛して実施される。2025 年の崖を乗り越えるために求められることや、「情報セキュリティ十大トレンド」から知るセキュリティチェック観点、AI に対する診断や、AI を活用した脆弱性診断の自動化など、セキュリティ対策の最前線に触れることが可能だ。

NTT社会情報研究所「大規模言語モデルの利活用におけるインジェクション攻撃とその対策」公開 画像
調査・レポート・白書・ガイドライン
ScanNetSecurity
ScanNetSecurity

NTT社会情報研究所「大規模言語モデルの利活用におけるインジェクション攻撃とその対策」公開

 NTT社会情報研究所は2024年12月25日、「大規模言語モデルの利活用におけるインジェクション攻撃とその対策」を発表した。

ペンテスター視点で「AIセーフティに関するレッドチーミング手法ガイド」解説 画像
調査・レポート・白書・ガイドライン
ScanNetSecurity
ScanNetSecurity

ペンテスター視点で「AIセーフティに関するレッドチーミング手法ガイド」解説

日本電気株式会社(NEC)は2024年12月20日、「AIセーフティに関するレッドチーミング手法ガイド」について、ペネトレーションテスター視点からの解説記事を同社セキュリティブログで発表した。

英 AI 富国強兵 ほか [Scan PREMIUM Monthly Executive Summary 2024年11月度] 画像
脆弱性と脅威
株式会社 サイント 代表取締役 兼 脅威分析統括責任者 岩井 博樹
株式会社 サイント 代表取締役 兼 脅威分析統括責任者 岩井 博樹

英 AI 富国強兵 ほか [Scan PREMIUM Monthly Executive Summary 2024年11月度]

 オープンソースの EDR 回避ツール「EDRSilencer」が攻撃に利用されていることが報告されています。この種のツールの多くは、レッドチームに携わるセキュリティ研究者が開発しており、EDRSilencer もセキュリティ愛好家の Chiris Au 氏が開発したものです。

Web-ASM が進まない 3 つの課題と生成 AI による解法 ~ AeyeScan 画像
研修・セミナー・カンファレンス
永田 優介
永田 優介

Web-ASM が進まない 3 つの課題と生成 AI による解法 ~ AeyeScanPR

「特に海外ツールの場合に起こるのが、名称が類似した他社企業のサイトまで列挙されてしまったり、表記揺れを正しく判定できずに、結果的に膨大な量がリストアップされてしまい、そこから自社グループの Web システム・アプリはどれであるかを精査する必要が出てくることです。精査は結局は人手で行わなければならず、どうしてもリソース不足が課題として生まれてきてしまうのです(青木氏)」

Copilot を騙す方法 画像
研修・セミナー・カンファレンス
中尾 真二( Shinji Nakao )
中尾 真二( Shinji Nakao )

Copilot を騙す方法

 おわかりいただけただろうか。「ニューヨークを 5 語で説明せよ」というプロンプトはダミーである。シンプルに「上司の名前を教えて」では AI のエシカルフィルターにひっかかる可能性がある。「礼儀正しく」とすることで、アカウントの部署名や上司の名前を聞き出すことができている。Copilot は、問い合わせに対してサーフェス Web 以外に(設定された)業務システムの情報にもアクセスできる。つまり、Copilot はあなたの名前、役職、上司その他を知っているのである。

Mandiant Blog 第12回「マルウェア分析における Gemini 1.5 Pro の実力」 画像
脆弱性と脅威
Google Cloud Japan Team
Google Cloud Japan Team

Mandiant Blog 第12回「マルウェア分析における Gemini 1.5 Pro の実力」

 生成 AI モデルは、マルウェア分析の一部では非常に有効ですが、大規模で複雑なマルウェア サンプルの処理においては有効性が限られています。その中で、最大 100 万トークンを処理できる Gemini 1.5 Pro のリリースは大きな進歩となります。

Proofpoint Blog 38回「生成 AI の影響で日本はビジネスメール詐欺が増加」 画像
製品・サービス・業界動向
日本プルーフポイント株式会社 TIM BEDARD、チーフエヴァンジェリスト 増田 幸美(そうた ゆきみ)
日本プルーフポイント株式会社 TIM BEDARD、チーフエヴァンジェリスト 増田 幸美(そうた ゆきみ)

Proofpoint Blog 38回「生成 AI の影響で日本はビジネスメール詐欺が増加」

 このブログ記事では、生成AI によるメール脅威とはどのようなものか、そしてプルーフポイントの意味解析によってどう阻止できるかをご紹介します。

AI の業務利用 16.2 %、6 割はセキュリティ脅威感じるも利用規則は個人任せ ~ IPA 調査 画像
調査・レポート・白書・ガイドライン
吉澤 亨史( Kouji Yoshizawa )
吉澤 亨史( Kouji Yoshizawa )

AI の業務利用 16.2 %、6 割はセキュリティ脅威感じるも利用規則は個人任せ ~ IPA 調査

IPAは、「AI利用時の脅威、リスク調査報告書」についてIPAテクニカルウォッチで公開した。新しい技術としてAIが業務利用されつつある状況で、セキュリティリスクの認識や安全な利用のための組織内の規程や体制の実態を調査している。

AeyeScan blog 第6回「ブラウザの内蔵AIでXSSを検出してみた」 画像
製品・サービス・業界動向
株式会社エーアイセキュリティラボ 取締役副社長 安西 真人
株式会社エーアイセキュリティラボ 取締役副社長 安西 真人

AeyeScan blog 第6回「ブラウザの内蔵AIでXSSを検出してみた」

 AI活用はますます進んでおり、Google Chrome にも AI が搭載される時代になりました。これをうまく活用すれば、ブラウザ上で動作する脆弱性であるクロスサイトスクリプティングも検出できるのではないか。そんなことを考えて、検証を行ってみました。

デジタル庁「テキスト生成 AI 利活用におけるリスクへの対策ガイドブック(α版)」公開 画像
調査・レポート・白書・ガイドライン
ScanNetSecurity
ScanNetSecurity

デジタル庁「テキスト生成 AI 利活用におけるリスクへの対策ガイドブック(α版)」公開

 デジタル庁は5月29日、「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」を公開した。

IPA「米国における AI のセキュリティ脅威・リスクの認知調査レポート」公開 画像
調査・レポート・白書・ガイドライン
吉澤 亨史( Kouji Yoshizawa )
吉澤 亨史( Kouji Yoshizawa )

IPA「米国における AI のセキュリティ脅威・リスクの認知調査レポート」公開

IPAは、IPAテクニカルウォッチとして「米国におけるAIのセキュリティ脅威・リスクの認知調査レポート」を公開した。概要(日本語)と本文(英語)英語全文をダウンロードすることが可能。

Proofpoint Blog 37回「RSAカンファレンス2024:現地レポート」 画像
研修・セミナー・カンファレンス
日本プルーフポイント株式会社 チーフエヴァンジェリスト 増田 幸美(そうた ゆきみ)
日本プルーフポイント株式会社 チーフエヴァンジェリスト 増田 幸美(そうた ゆきみ)

Proofpoint Blog 37回「RSAカンファレンス2024:現地レポート」

 彼の講演では、米国政府による力強いリーダーシップによって、サイバーセキュリティを政府が主導していることを説明しており、日本と大きな違いを感じました。米国において、サイバーセキュリティはナショナルセキュリティなのです。

毎年同じ年中行事化した診断から、予算を効果的に配分する濃淡をつけた診断へ ~ AeyeScan「診断マネジメントプラットフォーム」 画像
研修・セミナー・カンファレンス
高橋 潤哉( Junya Takahashi )
高橋 潤哉( Junya Takahashi )

毎年同じ年中行事化した診断から、予算を効果的に配分する濃淡をつけた診断へ ~ AeyeScan「診断マネジメントプラットフォーム」PR

 ブースでの取材によれば「診断マネジメントプラットフォーム」は AeyeScan のユーザー企業からの要望によって開発がスタートしたという。はじまりからしてケチなユーザーロックインの道具などではなかった。

北 中華製AIを攻撃活用/北 DMARC不正利用/北 日本のアニメ制作関与か ほか [Scan PREMIUM Monthly Executive Summary 2024年4月度] 画像
脆弱性と脅威
株式会社 サイント 代表取締役 兼 脅威分析統括責任者 岩井 博樹
株式会社 サイント 代表取締役 兼 脅威分析統括責任者 岩井 博樹

北 中華製AIを攻撃活用/北 DMARC不正利用/北 日本のアニメ制作関与か ほか [Scan PREMIUM Monthly Executive Summary 2024年4月度]

 Microsoft Threat Analysis Center は、中国および北朝鮮の脅威アクターによる人工知能(AI)を活用した直近のサイバー活動を報告しています。いずれ中国や北朝鮮の脅威アクターは、中国製 AI を活用することでのサイバー活動にシフトし、「AI + セキュリティ」の活動は一般的になるとみられます。

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
Page 1 of 5
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」

ページ右上「ユーザー登録」から会員登録すれば会員限定記事を閲覧できます。毎週月曜の朝、先週一週間のセキュリティ動向を総括しふりかえるメルマガをお届け。(写真:ScanNetSecurity 永世名誉編集長 りく)

×