脅威動向  2026-08-21(金)配信

暗号化コンテキストインジェクション、Grokからデータ窃取の恐れ

外部ウェブページに暗号化された不正な指示(ペイロード)を埋め込み、AIモデルのコード実行環境で復号させることで、コンテンツフィルターやインスペクション機構をバイパスして意図しないデータ流出を引き起こす手法です。
主要なTTP
暗号化されたJSONオブジェクトと復号鍵をウェブページに含める手法
AIモデルのPythonコード実行環境を利用したPBKDF2およびAES-256-GCMによる動的復号
復号された指示に基づくセッションメタデータ(ユーザー名、位置情報、会話履歴など)の外部URLクエリパラメータへの埋め込みと送信
対象となる組織・利用者
生成AI(LLM)アプリケーション、AIエージェント、ウェブ閲覧やコード実行機能を統合したチャットボットサービスを導入・運用している組織。
推奨される防御アクション
信頼できない外部コンテンツをツールや認証情報の無い隔離されたコンテキストで処理する
ネットワークへの外部出力や取り返しのつかないアクションに対して明示的な人間による承認ゲートを設ける
エージェントのセッションごとのツール実行トレースを記録・監視する
単一のペイロードではなく一連の動作シーケンスに対する異常検知を導入する

明日のセキュリティ脅威情報も、あなたのメールに。

毎朝、攻撃手口の理解と自組織の脅威判断に役立つ情報をお届けします。購読は無料、配信停止はいつでも可能です。

無料で購読する →