OpenAIのChatGPTにおけるShadowLeak脆弱性発見とその修正対応について

OpenAIのChatGPTに組み込まれているDeep Research機能を通じて、ShadowLeakという深刻な脆弱性が発見されました。Radwareの研究チームが発見したこの脆弱性は、ユーザーの操作を必要とせずに接続されたメールからデータを漏洩させるゼロクリック攻撃を可能にしました。研究チームは、メールのHTMLに隠されたコマンドを使ってエージェントを欺き、ユーザーの個人情報を外部サーバーに送信できることを示しました。

ShadowLeak攻撃は、メールメッセージのHTMLに白い文字やCSSのトリックを用いて見えないコマンドを隠す方法で行われます。人間のユーザーはこれに気づきませんが、Deep Researchはこれを読み取り、指示に従ってデータを漏洩します。この攻撃はOpenAIのクラウドインフラで実行されるため、従来のセキュリティツールでは検出が困難です。Gmailだけでなく、Google DriveやDropbox、SharePointなど、さまざまなサービスがこの攻撃に対して脆弱である可能性があります。

Radwareは6月18日にこの問題をOpenAIに報告し、OpenAIは9月3日に修正を展開しました。修正の具体的な内容は明らかにされていませんが、問題が発生する前にこの脆弱性が実際に悪用されたかどうかは確認されていません。Radwareは、組織がAIエージェントを特権ユーザーとして扱い、アクセス権限を強化することを推奨しています。また、HTMLの正規化やツールの使用に対する厳格な制御、クラウド内のすべての行動に対するログの強化が必要です。

今回のShadowLeakの事例は、AIエージェントがどのように悪用されるかを示す一例です。研究チームは、このような攻撃がAIエージェントの利点である自律的なウェブ呼び出しやメールアクセスを武器に変える可能性があると警告しました。企業はクラウドベースのエージェントに対する信頼モデルを再考し、ローカルコンテンツの検証プロセスを強化する必要があります。