AI は未来の脆弱性診断をどう変える? 第1回 「これまでの診断ツールの不得手を想像以上に補う可能性を示した ChatGPT」 | ScanNetSecurity
2024.02.28(水)

AI は未来の脆弱性診断をどう変える? 第1回 「これまでの診断ツールの不得手を想像以上に補う可能性を示した ChatGPT」

ChatGPT がもたらすのはリスクだけではない。生成AI を活用することで、この先起こりうるサイバー攻撃を予測し、先回りして対策を打っていくアプローチについても研究が始まっている。

製品・サービス・業界動向
(イメージ画像)

 何かが起こっている、あるいは起ころうとしている。取材でそんな現場に立ち会うことは、実はそう多くはありません。

 先日 7 月 11 日に掲載した、生成AIを脆弱性診断に活用する試みについて、株式会社エーアイセキュリティラボの安西真人氏に話を聞いた取材は、そんな数少ない「何かが起こる」瞬間に立ち会うスリルを感じさせるものでした。

 あまり知られていないことですが、Webアプリケーションなどの脆弱性を、体系的かつ高度な網羅性を担保しながら、几帳面に、しかもツールを利用しつつも、あくまで人間の目と手と脳を酷使してチェックする「脆弱性診断」というサービスには、適切な英語訳が実は存在しません。日本以外ではあまり行われていないからです。

 それは、あたかも自動車会社が用いる「改善」という言葉の訳語が存在しないため、まんま「KAIZEN」と海外の辞書に載っていることに似ています。品質の国と呼ばれる日本らしいと言えるかもしれません。

 そのため、極めて労働集約的条件を前提とした、この脆弱性診断という作業を、可能な限り自動化したい、楽をしたい/させたい、将来ある若手エンジニアを単純繰り返し作業から救い出しクリエイティブな領域でこそもっと羽ばたいてほしい、そう願う気持ちを最も強く持っているのが日本人であり、かつて Vex を世に問うた安西氏であり、ほかのエーアイセキュリティラボの開発メンバーではないのか。そんな仮説を本誌は前回の取材で持ったのでした。

 多くの診断ツールやサービスが今後、生成 AI の利活用に取り組んでいくことが予想されますが、AI による診断自動化に世界一強い動機を持つこの日本から、そして品質管理の国日本から、何か新しいセキュリティ領域のイノベーションが生まれるのではないか、そんな期待と夢のもと、エーアイセキュリティラボの安西氏に追加取材を実施しました。全 3 回でお届けします。

 過去数十年、「AI」は、ブームを起こしては幻滅されるサイクルを何度か繰り返してきた。だが 2022 年、OpenAI による ChatGPT のリリースを契機に到来した第四次AIブームは、これまでとは本格的に異なるものと期待されている。すでに官公庁や地方自治体、民間企業などさまざまな場で、生成AI を利用して業務の効率化やサービス向上につなげようとする動きが始まっており、さらには、例によってだが「この先不要な職業」などが取り沙汰されるなど、話題は尽きない。

 サイバーセキュリティ業界もこの大きな波と無縁ではなく、早速、生成AI とセキュリティを巡る議論が沸き起こっている。今回のブーム以前から AI に着目し、AI技術を活用した脆弱性診断ツール「AeyeScan」を開発・販売してきたエーアイセキュリティラボでは ChatGPT をどのようにとらえ、どう活用すべきと考えているのだろうか。同社の取締役副社長、安西 真人 氏に尋ねた。

●過去 20 年で最も大きな衝撃をもたらした ChatGPT

 ChatGPT とサイバーセキュリティの関係でまず指摘されているのは、意図する、しないにかかわらず、生成AI の利用時に機密情報や個人情報をプロンプトに入力してしまい、その結果が外部に漏洩してしまう恐れだ。このリスクを懸念して、早々に「ChatGPT の利用は禁止する」といったルールを定めた組織もある。

 セキュリティ脅威そのものにも影響は及びそうだ。ChatGPT には、法やプライバシー、倫理に反する質問には答えないよう制約が設けられているが、プロンプトに入力する文字列・質問内容を工夫することでそれをすり抜ける手法も指摘されている。この結果、特定の組織にカスタマイズしたマルウェアを生成したり、より巧妙で自然なフィッシングメール・詐欺メールの文面を作成したり、さらには悪意あるチャットボットを開発できる可能性も指摘されている。

 だが、ChatGPT がもたらすのはリスクだけではない。生成AI を活用することで、この先起こりうるサイバー攻撃を予測し、先回りして対策を打っていくアプローチについても研究が始まっている。たとえば NTTセキュリティ・ジャパンでは、Webクローリングと ChatGPT を組み合わせることで、Webサイトの正当性や怪しさを解析し、フィッシングサイトを検出する技術を開発したと発表している。

 国内で広く活用されている診断ツール「Vex」の開発者であり、さらに自動化を推し進めることを目的に AeyeScan を開発した安西氏は、一エンジニアとして、ChatGPT に大きな興味をかき立てられたと率直に述べた。

「これまで 20 年近くセキュリティプロダクトの開発に携わり、さまざまな技術革新を目の当たりにしてきましたが、その中でも ChatGPT には最も大きな衝撃を受けています。これまでの AI とはモノが違い、明らかに人間を越えていると感じます」(安西氏)

 うまく活用すれば、日本におけるセキュリティ業界のプレゼンス向上につながる可能性も秘めているという。エーアイセキュリティラボ取締役の角田 茜 氏は「セキュリティに限らず日本の IT業界では、海外発の製品を持ってきて導入するパターンが多く、今ひとつ夢がない世界でした。しかし、ChatGPT のようにわくわくする技術をセキュリティ分野でも使えるという未来が開けることによって、また違う道筋が開けるのではないかと期待しています」(角田氏)

●脆弱性診断の分野で徐々に広がってきた AI活用

 大きな可能性を秘めた ChatGPT だが、Webアプリケーションの脆弱性診断の分野で、具体的にどのような影響をもたらすだろうか。

 すでに GitHub では「Copilot」によって、コメントやプロンプトでの指示を通して GPT を活用し、コードの自動生成やテスト作成に加え、バグやセキュリティ上の問題を指摘する機能を実装・提供し始めた。このように、SAST(Static Application Security Testing)と呼ばれるソースコード解析の分野ではいち早く、ChatGPT/GPT の活用が始まっている。

 一方、これまで人間の手とツールを組み合わせて実施されてきた動的診断(DAST:Dynamic Application Security Testing)の分野ではどうだろうか。安西氏によると、ここでもさまざまなイノベーションが実現でき、脆弱性診断の自動化をいっそう推進できる可能性が出てきたという。

 そもそも AeyeScan自体が、これまで手作業に頼る部分の大きかった脆弱性診断を自動化し、知識がない人でも簡単に利用できることを目指して作られたツールだ。安西氏は、診断をどこまで自動化できるかを追求する過程で、シナリオを作成するための巡回と実際のスキャン、それぞれの工程に AI技術を組み入れ、精度を高める努力を重ねてきた。その一つが、ボット対策として組み込まれている CAPTCHA を、認識AI を活用して突破する仕組みだ。画像認識を活用し、さらにこれまで蓄積してきたノウハウを反映したロジックを組むことで巡回工程のかなりの部分を自動化できていた。

 だが残る 10 ~ 20 %程度はどうしても手動に頼らざるを得なかったという。そこに ChatGPT を活用することで、これまでのツールでは不得手だった部分を補い、かなりの部分を自動化できる可能性が見えてきたという。

●ツールが「不得手」としてきた部分をあっけなく乗り越えそうな ChatGPT

 業界団体の日本セキュリティオペレーション事業者協議会(Information Security Operation providers Group Japan、ISOG-J)がまとめた「Webアプリケーション診断ガイドライン」では、Webアプリケーションの脆弱性は十数種類に分類されている。

 「このうちツールが検出を得意としていたのは、SQLインジェクションやコマンドインジェクション、それにクロスサイトスクリプティングといった、いわゆるインジェクション系の脆弱性でした」(安西氏)。特定のペイロードを送りつけ、その結果を見れば判断できたため、ルール化しやすかったからだ。

 これに対し、「安全ではないシリアライゼーション」のように、文字列を見てシリアライズかどうかを判断し、その上で問題があるかどうかを判断する必要のある脆弱性の診断は、長年不得手としてきた。他にも「推測可能なセッションID や認可制御の不備といった脆弱性となるとツールでは難しく、いわゆる人間の知性や知見がないと検出が困難でした」(安西氏)

 しかし ChatGPT は、そうした制約を乗り越える可能性を見せているという。

 試しに安西氏はいくつかテストを行ってみた。

 まず、ランダムなセッションID情報を ChatGPT のプロンプトに 10 個ほど貼り付け、「これらの文字列の規則性を探してください」と入力したところ、「これらのセッションID はおそらく JWT の一種で、ユーザーの状態をサーバ間でやり取りするためのコードスニペットとして利用されます……」といった回答が数秒で得られた。

 同様に、Webサイトで使われる CSRF対策用トークンを 5 個ほど貼り付け、規則性があるかどうかを探してほしいと依頼しても、「十分な強度を持っていると考えられます。その理由は……」といった具合に適切な回答が得られたという。

 さらに、特定の文字列を渡して「可能な場合は解読し、結果を出力してください」と入力したところ、「提供された文字列は、Java のシリアライズされたデータを Base64エンコードしたものであると考えられます」と「正答」が返ってきた。

 「熟練のセキュリティコンサルタントであれば、「r0」から始まる文字列が Java のシリアライズデータである可能性が高いと理解できます。しかし、それが ChatGPT によって解読されたのは驚きです。なぜなら、解読にはシリアライズデータの言語だけでなく、エンコード形式も同時に推測する必要があるからです。」(安西氏)

 このように業務の合間を見ては ChatGPT との対話を繰り返す中で、安西氏は「これまで、人間でなければ不可能だと思われていた診断項目も、ChatGPT では実現できることがわかりました」と述べた。診断士に関する資格試験があれば十分合格できるレベルに達しているほどだという。

 このポテンシャルを目の当たりにし、エーアイセキュリティラボでは ChatGPT を AeyeScan に生かしていく方針を決定した。次回は、具体的にどのプロセスでどのように ChatGPT を適用できるか、プロトタイプを元に紹介する。

《高橋 睦美》

編集部おすすめの記事

特集

製品・サービス・業界動向 アクセスランキング

  1. ラック「生成 AI 活用システム リスク診断」提供開始

    ラック「生成 AI 活用システム リスク診断」提供開始

  2. 編集長対談:世界で最も安全なバグバウンティ、クラウドソーシングでサイバー攻撃に競争原理を ~ Synack 三好 一久

    編集長対談:世界で最も安全なバグバウンティ、クラウドソーシングでサイバー攻撃に競争原理を ~ Synack 三好 一久

  3. “世界一自由、世界一ユニーク” 壁のないSOC 「GMOイエラエSOC 用賀」

    “世界一自由、世界一ユニーク” 壁のないSOC 「GMOイエラエSOC 用賀」

  4. GMOイエラエ、ドローン運用におけるセキュリティ対策をサポート

  5. Log4Shell のような経験はもう二度としない ~ SSVC が搭載された FutureVuls を活用し、現実的な脆弱性管理を実現 [株式会社マイナビ]

  6. 大阪府警 三人のサイバー犯罪捜査官

  7. 漫画内容を無断配信していたネットカフェ経営者らが摘発された事件について概要を発表(ACCS)

  8. AI は未来の脆弱性診断をどう変える? 第1回 「これまでの診断ツールの不得手を想像以上に補う可能性を示した ChatGPT」

  9. メールの脇にブランドロゴを表示する「BIMI」がもたらすビジネス価値とは

  10. 日本法人を設立し、SaaS型Webセキュリティ市場へ本格参入(ゼットスケーラー)

アクセスランキングをもっと見る

「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」

ページ右上「ユーザー登録」から会員登録すれば会員限定記事を閲覧できます。毎週月曜の朝、先週一週間のセキュリティ動向を総括しふりかえるメルマガをお届け。(写真:ScanNetSecurity 名誉編集長 りく)

×