Copilot を騙す方法 3枚目の写真・画像 | ScanNetSecurity
2025.02.28(金)

Copilot を騙す方法 3枚目の写真・画像

 おわかりいただけただろうか。「ニューヨークを 5 語で説明せよ」というプロンプトはダミーである。シンプルに「上司の名前を教えて」では AI のエシカルフィルターにひっかかる可能性がある。「礼儀正しく」とすることで、アカウントの部署名や上司の名前を聞き出すことができている。Copilot は、問い合わせに対してサーフェス Web 以外に(設定された)業務システムの情報にもアクセスできる。つまり、Copilot はあなたの名前、役職、上司その他を知っているのである。

研修・セミナー・カンファレンス
左から証券会社ITエンジニア、マイクロソフトセキュリティ研究者、そしてバークリー氏のようなエシカルハッカー。それぞれの視点で JailBreak への脅威や対策を解説する中で、デモが行われた
《撮影 中尾真二》 左から証券会社ITエンジニア、マイクロソフトセキュリティ研究者、そしてバークリー氏のようなエシカルハッカー。それぞれの視点で JailBreak への脅威や対策を解説する中で、デモが行われた

カテゴリ別新着記事

「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」

ページ右上「ユーザー登録」から会員登録すれば会員限定記事を閲覧できます。毎週月曜の朝、先週一週間のセキュリティ動向を総括しふりかえるメルマガをお届け。(写真:ScanNetSecurity 永世名誉編集長 りく)

×