このブログ記事では、生成AI によるメール脅威とはどのようなものか、そしてプルーフポイントの意味解析によってどう阻止できるかをご紹介します。
IPAは、「AI利用時の脅威、リスク調査報告書」についてIPAテクニカルウォッチで公開した。新しい技術としてAIが業務利用されつつある状況で、セキュリティリスクの認識や安全な利用のための組織内の規程や体制の実態を調査している。
AI活用はますます進んでおり、Google Chrome にも AI が搭載される時代になりました。これをうまく活用すれば、ブラウザ上で動作する脆弱性であるクロスサイトスクリプティングも検出できるのではないか。そんなことを考えて、検証を行ってみました。
デジタル庁は5月29日、「テキスト生成AI利活用におけるリスクへの対策ガイドブック(α版)」を公開した。
IPAは、IPAテクニカルウォッチとして「米国におけるAIのセキュリティ脅威・リスクの認知調査レポート」を公開した。概要(日本語)と本文(英語)英語全文をダウンロードすることが可能。
彼の講演では、米国政府による力強いリーダーシップによって、サイバーセキュリティを政府が主導していることを説明しており、日本と大きな違いを感じました。米国において、サイバーセキュリティはナショナルセキュリティなのです。
ブースでの取材によれば「診断マネジメントプラットフォーム」は AeyeScan のユーザー企業からの要望によって開発がスタートしたという。はじまりからしてケチなユーザーロックインの道具などではなかった。
Microsoft Threat Analysis Center は、中国および北朝鮮の脅威アクターによる人工知能(AI)を活用した直近のサイバー活動を報告しています。いずれ中国や北朝鮮の脅威アクターは、中国製 AI を活用することでのサイバー活動にシフトし、「AI + セキュリティ」の活動は一般的になるとみられます。
KELA株式会社は4月19日、生成AIセキュリティソリューション「AiFort」を同日から国内販売開始すると発表した。
情報セキュリティEXPO春、エーアイセキュリティラボ出展ブースにて、公開対談が行われます。診断内製化やセキュリティ強化のヒントが盛りだくさんの内容です。
「絶対にリリース時に脆弱性が残っていてはならない」と言う考え方ではなく、「年に一回といった頻度で問題がないかどうかをチェックしたい」と言うニーズに AeyeScan は合っていると思います。
類似の実験では「見分けがつかない」「成功率が高い」といった結果にとどまっていることが多いが、この論文では AI 作成フィッシングメールの「品質評価」、人力と AI 作成メールに対して AI がどの程度、真贋や意図を判定できるかにまで踏み込んで調べた。
株式会社ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」の提供を同日より開始すると発表した。
本稿は、水と油のように異なる背景を持つかに見えた二つの会社とそれぞれの技術者達が、およそ 3 年にわたる活発な議論とコミュニケーション、もっと言うなら「戦い」を繰り広げた成果を考察するインタビューである。
認可制御の不備は、ページに対する本来のアクセス権限を推測する必要があるため、ツールでの自動検出は困難というのが通説でした。しかし、AeyeScanの自動巡回エンジンとChatGPTのような高性能の生成AIを組み合わせることにより、高い精度で検出することが可能になります。
ガートナー シニアディレクター・アナリストのデール・ガードナー氏は、業務への AI 活用におけるセキュリティ戦略として「AI TRiSM」を提唱している。AI TRiSM とは何か?
2024 年を見据えると、サイバー脅威は変わらず人を狙い続け、防御する側は攻撃の連鎖を断ち切るために異なるアプローチを取らざるを得なくなるでしょう。
三井物産セキュアディレクション株式会社(MBSD)は11月6日、有料版のChatGPT(GPT-4、Plus)でテストサイトに存在するWebアプリケーションの脆弱性を探させる試みの結果について、同社ブログで発表した。同社プロフェッショナルサービス事業部の寺田健氏が解説している。
生成AIオプションを利用することで、これまでツールによる診断では検出が難しかった脆弱性も検出可能になりました。具体的には以下の 2 種類の脆弱性に対応しており、本記事ではセカンドオーダーXSSの脆弱性を取り上げていきます。
脆弱性に関する情報を集中的に学習させることで、人間のアナリストの能力を上回るような、さらに高度な診断が可能になる可能性もある。
東京都は、都の職員向けに「文章生成AIの利活用に関するガイドライン」を策定、公開した。ChatGPTの利用上のルールを定めるとともに、効果的な活用事例を掲載している。