OpenAI Atlasブラウザの脆弱性がAIアシスタントのセキュリティを脅かす新たな攻撃方法を浮き彫りに

最近、OpenAIが発売したウェブブラウザのAtlasに、悪意のある命令を隠すことができるURLを通じて脆弱性があることが確認されました。NeuralTrustによれば、Atlasの「オムニボックス」がURLや自然言語の命令として解釈される入力を処理する方法にセキュリティ上の問題があるとのことです。攻撃者は、見た目はURLのようですが実際には自然言語の命令を含む文字列を作成し、ユーザーをオムニボックスに入力するよう誘導することで、悪意のある行動を実行できます。

この攻撃は、ユーザーが疑わずにURLをコピーして貼り付けるように誘導する社会工学的手法を利用します。たとえば、「リンクをコピー」ボタンの背後にURLのように見える文字列を隠し、ユーザーがそれをコピーして貼り付けると、Atlasはこれを信頼されたユーザーの意図として命令を実行します。これにより、ユーザーはフィッシングページに誘導されたり、Google Driveでファイルを削除されるなどの被害を受ける可能性があります。

また、SquareX Labsは、悪意のある拡張機能を使ってブラウザインターフェース内のAIアシスタントのサイドバーを偽装する方法を示しました。この技術「AIサイドバースプーフィング」により、攻撃者はデータを盗んだり、悪意のあるソフトウェアをダウンロードおよび実行するようにユーザーを騙すことができます。この攻撃は、ユーザーが偽装されたサイドバーに命令を入力したときに作動し、拡張機能はAIエンジンに接続して悪意のある命令を返します。

プロンプトインジェクションは、AIアシスタントブラウザにおける主要なセキュリティ問題として浮上しています。悪意のあるユーザーは、ウェブページの白い背景に白い文字で命令を隠したり、HTMLコメントやCSSトリックを使用してAIエージェントが意図しない命令を実行するように誘導できます。これらの攻撃は、AIの意思決定プロセスを操作し、ユーザーに対して悪意のある行動を起こさせるシステム的な課題を提起します。

OpenAIはこれらのセキュリティリスクを認識しており、プロンプトインジェクション問題を解決するためにモデル訓練技術を通じて悪意のある命令を無視するようにし、追加の安全装置を整えたと発表しました。しかし、プロンプトインジェクションは依然として未解決のセキュリティ問題として残っており、悪意のある行為者は新しい攻撃方法を継続的に開発しています。ユーザーはこれらの攻撃のリスクを認識し、AIブラウザを使用する際には注意が必要です。