セキュリティ
2026年11月16日

AmazonがARTEXのAIエージェントによる攻撃を観測——AIキーの大規模窃取とディープフェイクによるKYC突破の試み

AmazonがARTEXのAIエージェントによる攻撃を観測——AIキーの大規模窃取とディープフェイクによるKYC突破の試み

AmazonがARTEXのAIエージェントによる攻撃を観測——AIキーの大規模窃取とディープフェイクによるKYC突破の試み(写真はイメージ)

Amazon Threat Intelligenceは2026年11月13日、脅威アクターがオープンソースのAIペネトレーションテストフレームワーク「ARTEX」上で実行した攻撃キャンペーンについて、観測結果を発表した。同社のおとりセンサー網「MadPot」が、2026年10月3日から11月5日にかけて、AIエージェントのリクエストを捕捉したという。

リクエストには、エージェント自身が書き残した運用メモリが含まれていた。目立ったのは、AIモデルにアクセスするための認証情報を大規模に盗むキャンペーンと、ディープフェイクで暗号資産取引所の本人確認(KYC)を回避しようとするキャンペーンの2つだ。

おとりセンサーが、エージェントの「作業記録」をとらえた

MadPotは、世界中に分散配置されたおとりの脅威センサーだ。今回は、広く使われているLLMの推論APIに見えるよう設定されており、ARTEXのエージェントがそこへプロンプトを送ってきた。リクエストには、タスクの文脈、システムプロンプト、ツールの履歴、調査結果などが含まれていた。

エージェントは過去の会話履歴を保持するため、1件のリクエストにキャンペーンの運用履歴の多くが入っていた。AmazonはARTEXの利用を中程度の確度で評価している。なお、記録の内容はエージェントが報告したものであり、Amazon側で検証できたわけではない。

脅威アクターは、目標や標的の選び方、制約を定めた指示プロンプトをエージェントに与えていた。作業そのものは、エージェントが指示の範囲内で自ら進めていた。Amazonは、簡体字中国語のプロンプトや中国のタイムゾーンなどから、複数の中国関連の脅威グループによるものと中程度の確度で評価している。

キャンペーン1:AIの認証情報を大規模に窃取

このキャンペーンの狙いは、AIモデルへのアクセスを許すAPIキーなどを盗み、他人に料金を負担させたままモデルを使うことだったとみられる。盗んだキーは、さらに多くのキーを探すエージェントの推論費用にも使われていた。これにより、攻撃は自律的に続く仕組みになっていた。

標的は、インターネットに公開されたAIアプリケーションだ。LiteLLMやOne APIなどのLLMゲートウェイ、DifyやLangflow、Open WebUIなどのAIアプリケーションビルダーが挙がっている。複数のプロバイダーのキーをまとめて持つアプリが狙われやすいのは、管理画面が1つ脆弱なだけで、多くのアカウントが露出するためだ。

攻撃に使われた弱点は、基本的なものが中心だった。具体的には、初期化されていないインストール環境、匿名でアクセスできる管理用の画面、LiteLLMのデフォルトのマスターキー、既知の脆弱性などがある。コードや公開アーティファクトに残ったシークレットも探されており、GitHubやnpm、PyPI、コンテナイメージなどが調べられていた。

キャンペーン2:ディープフェイクで本人確認の突破を試みる

もう一つは、2つの暗号資産取引所のKYCを、ディープフェイクで突破しようとするものだ。エージェントは、ライブのセルフィー確認用にリアルタイムのディープフェイク動画を生成し、書類確認用に本人確認書類の写真を偽造していた。

記録には、あるベンダーのライブネスチェックを詳しく解析した形跡があった。最良の試行では、顔を目標位置から7ピクセル以内に収め、動作の手順を最後まで完了している。ただし、記録されたすべての試行で、ディープフェイクはベンダーのサーバー側の判定で拒否された。

書類の写真についても、編集の痕跡を隠すため、合成したカメラのメタデータを作り、元の圧縮テーブルを保持していた。少なくとも4つのエージェントセッションが同時に動き、換金方法の調査、残高を空にする作業、ディープフェイクの動画づくり、本人確認の回避を分担していた。

日本企業への示唆

Amazonは、使われた手法に新しいものはなく、AIエージェントが変えるのは攻撃の速度と継続性だと述べている。したがって、まず確認したいのは基本の対策だ。デフォルトやハードコードされた認証情報、コードや公開物に残ったキー、認証のない推論エンドポイント、未適用のパッチがないかを点検する。

自社でLLMゲートウェイやAIアプリを運用している場合は、インターネットからの到達性と管理画面の認証設定を確認したい。AIサービスの不正使用は、想定外の支出や異常な利用状況から気づける。利用料のアラートや上限設定を、あらかじめ整えておくとよい。

本人確認を扱う事業者は、ライブネスチェックの判定をサーバー側で行えているか、見直したい。今回は拒否された試行ばかりだったが、攻撃側は手法を改善し続けるとみられる。検証の仕組みを、定期的に見直す必要がある。

ITトレンドでクラウドセキュリティについてチェック![クラウドセキュリティのおすすめ製品を徹底比較!リスクや種類も解説]

AIエージェント時代の防御はこちらもチェック![クラウドストライクがAIエージェント時代の防御策5つを発表——攻防一体の「SafeMind」やエージェント保護の「Falcon Guardian」]

まとめ

ARTEXを使った攻撃では、AIエージェントが複数の目的を並行して進め、人の手をほとんど介さずに動いていた。手法自体は既知のもので、基本的なセキュリティ対策が欠けた環境が狙われている。

AIアプリやゲートウェイを、他の本番システムと同じ統制の下に置き、シークレットの管理と利用状況の監視を見直しておきたい。

top遷移画像

Copyright (C) 2026 IT Trend All Rights Reserved.