Cisco、AI エージェントの暴走を検知する「Project Quarry」をオープンソース化 1枚目の写真・画像 | ScanNetSecurity
2026.11.10(火)

Cisco、AI エージェントの暴走を検知する「Project Quarry」をオープンソース化 1枚目の写真・画像

 Cisco のチームは、ルールにできることの限界を、自ら明言している。ルールだけでは、推論過程( chain-of-thought )の監視など、人間による監督の代わりにはならないという。ただ、ルールは、不審な動きのパターンを、他のチームにも渡せる形で残す助けになる。受け取ったチームは、それを「レビューし、テストし、自社のエージェントに適用する」ことができる、と彼らは記した。

国際
https://blogs.cisco.com/ai/project-quarry-agent-security-detections
https://blogs.cisco.com/ai/project-quarry-agent-security-detections

カテゴリ別新着記事

「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」

ページ右上「ユーザー登録」から会員登録すれば会員限定記事を閲覧できます。毎週月曜の朝、先週一週間のセキュリティ動向を総括しふりかえるメルマガをお届け。(写真:ScanNetSecurity 永世名誉編集長 りく)

×