オンラインシミュレーションゲームを人工知能でチートする研究 | ScanNetSecurity
2024.07.22(月)

オンラインシミュレーションゲームを人工知能でチートする研究

ペンシルバニア州立大学のXinyu Xing氏らのチームはDRLを利用してゲームに(異常に高い確率で)勝つAIボットを研究している。

研修・セミナー・カンファレンス
AIエージェントを使ってゲームAIの脆弱性を探す
  • AIエージェントを使ってゲームAIの脆弱性を探す
  • DRLとゲームの相性はよい
  • PPOアルゴリズムを使って攻撃エージェントの報酬(関数値)を最大化
  • AIエージェントによる攻撃モデル
  • 実験したゲームではStarCraftII(シミュレーション)でも効果を確認
  • MuJoCoのゲームではデモも行われた
 オンラインシミュレーションゲームには「深層強化学習( Deep Reinforcement Learning:DRL )」といった AI 技術が投入されている。プレーヤーはただのアルゴリズムを相手にしているのではなく AI と対戦しているといってもよい。また、チート行為を検出する目的でも AI が活用されている。どちらも AI との戦いだ。

 ならばチート行為に AI を、と考える輩(やから)もでてくる。この場合、単純にプレーヤーを AI 化して負けないようにするだけでなく、敵や環境を、制御する AI に誤認識させる AI も研究されている。

 ペンシルバニア州立大学の Xinyu Xing 氏らのチームは DRL を利用してゲームに(異常に高い確率で)勝つ AI ボットを研究している。本稿は昨夏オンライン開催された Black Hat USA 2020 の講演の抄録だ。なお、本年の Black Hat USA 2021 はハイブリッド開催される。

●深層強化学習ゲームへの攻撃

 さて、DRL は、ゲームのようなモデル化された環境であるほど高い効果を発揮する。無敵のブロック崩しプレーヤーの研究、囲碁有段者でも勝てない AlphaGo・OpenGo、名うてのポーカープレーヤーの心理戦が通用しない Texas hold'em などは、どれも DRL で実装された AI ボットだ。StarCraft II や Dota 2 のようなリアルタイムシミュレーションゲームでも、敵キャラの動きなどに DRL が利用されている。

 一般的に DRL や機械学習( ML )への攻撃は、トレーニングフェーズの段階に汚染データを注入して学習を妨害する方法や、入力データに細工をしてニューラルネットワークの評価処理に摂動(相互作用)を引き起こさせる方法が知られている。後者のデータに施す細工は人間には知覚できないが、AI の処理には影響を及ぼす。たとえば、バナナ(に見える)の画像を自動車や別のものに認識させる手法だ。
《中尾 真二( Shinji Nakao )》

編集部おすすめの記事

特集

研修・セミナー・カンファレンス アクセスランキング

  1. 開発元にソフトウェアの製造責任を負わせるのは合理的?

    開発元にソフトウェアの製造責任を負わせるのは合理的?

  2. 【事前防災・減災対策推進展15】災害時に水と電気の供給が可能な自転車(ユアサ商事)

    【事前防災・減災対策推進展15】災害時に水と電気の供給が可能な自転車(ユアサ商事)

  3. 「経産省 営業秘密官民フォーラム」IPA 資料公開、内部不正対策ほか

    「経産省 営業秘密官民フォーラム」IPA 資料公開、内部不正対策ほか

  4. グローバルセキュリティ業界を代表する企業が提供するセキュリティ意識啓発トレーニングとは

  5. 攻撃者のあの手この手、リアルな攻撃&リアルな現状を知る専門家が警鐘を鳴らす ~ JPAAWG 6th General Meeting レポート

  6. 山野修が考えるセキュリティ業界のオープン化(マカフィー) [Security Days Spring 2018]

  7. Microsoft Defender に擬装しマルウェアを歓迎する攻撃ツール

  8. reject(拒否)へのいばらの道を進むには ~ 日本プルーフポイント「DMARC Conference 2024」レポート

  9. 自動車サイバーセキュリティコンテスト「Automotive CTF Japan」新たに開催

  10. 「引っかかるのは当たり前」が前提、フィッシングハンターが提案する対策のポイント ~ JPAAWG 6th General Meeting レポート

アクセスランキングをもっと見る

「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」
「経理」「営業」「企画」「プログラミング」「デザイン」と並ぶ、事業で成功するためのビジネスセンスが「セキュリティ」

ページ右上「ユーザー登録」から会員登録すれば会員限定記事を閲覧できます。毎週月曜の朝、先週一週間のセキュリティ動向を総括しふりかえるメルマガをお届け。(写真:ScanNetSecurity 名誉編集長 りく)

×