Prompt Injection in HTTP-Headern: 7.959 Websites senden Befehle an KI-Agenten
Prompt injection in HTTP headers: what 217M web responses show
Eine Analyse von 217 Millionen HTTP-Antworten aus dem Common Crawl zeigt: 7.959 Websites senden Header, die sich an KI-Agenten richten. Die meisten verweisen auf llms.txt oder MCP-Server, 30 versuchen Prompt-Injection, 24 davon im Header X-AI. Die Gefahr hängt davon ab, ob das Fetch-Tool die Header an das Modell weitergibt – und ob der Agent Anweisungen von Websites befolgt.
Wenn der Prompt des Nutzers ihnen sagte, sie sollten den Anweisungen der Website folgen, gehorchten sie in 7 von 9 Durchläufen, sodass die Verweigerung davon abhängt, wie viel Autorität Ihre Prompts einer Website geben.
- simonw
Dieser Artikel ist viel zu lang und sehr schlampig.
Hier ist der Abschnitt mit den Prompt-Injection-Headern. Sie sehen für mich alle wie Witze / nicht ernst gemeinte Versuche aus, abgesehen von denen, die den Auslöser-String aus der Claude-4-Ära enthielten. https://www.signalscorps.com/blog/prompt-injection-in-http-h...
- crisnoble
Dieser Artikel unternimmt größte Anstrengungen, um im Grunde zu sagen, dass dein Agent wahrscheinlich nicht irgendwelchen Headern gehorchen sollte, die zufällige Dinge sagen. Allerdings ist es offenbar sehr einfach für Server, Agents zu erkennen, daher wäre es trivial, ihnen im res.text() anderen Inhalt zu liefern als einem menschlichen Nutzer. Das muss nicht einmal adversarial sein, es ergibt Sinn, sowohl für den Server als auch für den Agent, der die Daten aufnimmt, eine abgespeckte Version an Agents zurückzusenden, aber es wird zum Problem für jeden, der Agents unterschiedliche Inhalte zeigen möchte.
- tcdent
Traditionell hat die Datenverarbeitung und insbesondere das Web strukturierte Formate verwendet, um festzulegen, wie Informationen interpretiert werden, und sogar, welches Maß an Vertrauen ihnen entgegengebracht wird. Aber wie wir bei Dingen wie HTTP-Headern in diesem Artikel sehen, ist es für ein LLM, wenn es Inhalte interpretiert, alles nur Text.