Prismata：Webエージェントを守る新防御、クロスサイトプロンプトインジェクションを封じ込める

Prismata: Confining cross-site prompt injection in web agents

自律型Webエージェントは日常のブラウジングを自動化する一方、Web最古の攻撃面を引き継いでいます。クロスサイトスクリプティングが、信頼できるコンテンツと信頼できないコンテンツの混在が危険であることを示したように、エージェントは自然言語を命令として解釈するため、第三者が生成したコンテンツによるプロンプトインジェクションで乗っ取られる可能性があります。Prismataは、エージェントが見るものと実行できることを制限する「文脈に応じた最小特権」を強制する防御策です。動的な信頼導出によりページコンテンツに権限ラベルを付与し、古典的な完全性モデルに着想を得た構造的封じ込め保証を提供。ラベルの誤りは特権の減少方向に限定され、誤ラベルの影響も抑えられます。開発者の注釈は不要で、多様なWebサイトに対応。最近の攻撃（適応型を含む）に対して、攻撃成功率を大幅に低減しつつ、正規タスクのユーティリティを維持します。