テレグラムボット使用しChatGPTの制限回避、悪意あるメールやコード作成 | ScanNetSecurity
2024.04.14(日)

テレグラムボット使用しChatGPTの制限回避、悪意あるメールやコード作成

 チェック・ポイント・ソフトウェア・テクノロジーズ株式会社は2月16日、サイバー犯罪者がテレグラムボットを使用することでChatGPTの制限を回避し、悪意あるメールやコードを作成していることを確認したと発表した。

調査・レポート・白書・ガイドライン 調査・ホワイトペーパー

 チェック・ポイント・ソフトウェア・テクノロジーズ株式会社は2月16日、サイバー犯罪者がテレグラムボットを使用することでChatGPTの制限を回避し、悪意あるメールやコードを作成していることを確認したと発表した。

 フィッシング詐欺などへの悪用を防ぐためChatGPTでは、不正行為を助長するような質問や依頼を投げかけると「要求に応じることはできない」とAIが断るように制限を設けている。

 テレグラムボットは、チャットアプリ「テレグラム」内のグループや個人のチャットに追加して利用するボットで、リアルタイムに自動で会話を行う。

 チェック・ポイント・ソフトウェア・テクノロジーズの脅威インテリジェンス部門であるチェック・ポイント・リサーチ(Check Point Research、CPR)では、テレグラムボットを用いることでOpenAIのAPIを利用して悪意あるメールやコードの生成を可能とするサービスが、アンダーグラウンドのフォーラムで売られていることを確認している。

 CPRによると、ボットはOpenAIのAPIを利用して、脅威アクターが悪意あるメールやコードを作成することを可能にし、ボット作成者には20回まで無料のクエリが付与されるが、その後は100回ごとに5.50ドルを請求されるとのこと。

 チェック・ポイントの脅威インテリジェンスグループマネージャー、セルゲイ・シュキエヴィチ(Sergey Shykevich)氏は、「現在、OpenAIのAPIは外部のアプリケーションに利用されており、不正対策はほとんど行われていません。その結果、ChatGPTがユーザーインターフェースに設定している制限に引っかかることなく、フィッシングメールやマルウェアコードなどの悪意あるコンテンツの作成が可能になっています。」こコメントしている。

《ScanNetSecurity》

関連記事

Scan PREMIUM 会員限定記事

もっと見る

Scan PREMIUM 会員限定記事特集をもっと見る

カテゴリ別新着記事

「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」

ページ右上「ユーザー登録」から会員登録すれば会員限定記事を閲覧できます。毎週月曜の朝、先週一週間のセキュリティ動向を総括しふりかえるメルマガをお届け。(写真:ScanNetSecurity 名誉編集長 りく)

×