7 959 сайтов шлют инструкции ИИ-агентам через HTTP-заголовки
Prompt injection in HTTP headers: what 217M web responses show
Мы проанализировали заголовки 217 миллионов HTTP-ответов из Common Crawl и нашли 7 959 сайтов, которые обращаются к ИИ-системам. Большинство указывают агентам на другие ресурсы, например llms.txt или MCP-серверы, но 30 сайтов пытались внедрить инструкции, в основном в заголовке X-AI. В тестах Claude Opus, Sonnet и Haiku находили такие заголовки, но выполняли указания только при явном разрешении в промпте. Защита начинается с понимания того, какие заголовки ваш инструмент передаёт модели.
Когда промпт пользователя предписывал следовать указаниям сайта, они подчинялись в 7 из 9 запусков, так что отказ зависит от того, сколько полномочий ваши промпты дают сайту.
- simonw
Эта статья слишком длинная и очень небрежная.
Вот раздел с заголовками для инъекции промптов. Все они выглядят как шутки / несерьёзные попытки, кроме тех, что содержали строку, вызывающую отказ эпохи Claude 4. https://www.signalscorps.com/blog/prompt-injection-in-http-h...
- crisnoble
В этой статье приложены огромные усилия, чтобы по сути сказать, что ваш агент, вероятно, не должен подчиняться заголовкам, говорящим случайные вещи. Однако, по-видимому, серверам очень легко обнаружить агентов, поэтому было бы тривиально отдавать им другой контент в res.text(), чем обычному пользователю. Это даже не обязательно должно быть враждебным — имеет смысл возвращать урезанную версию агентам как для сервера, так и для агента, поглощающего данные, но это становится проблемой для всех, кто хочет показывать агентам другой контент.
- tcdent
Традиционно вычисления и особенно веб использовали структурированные форматы для обозначения размещения того, как интерпретируется информация, и даже уровня доверия, который ей оказывается. Но, как мы видим на примере таких вещей, как HTTP-заголовки в этой статье, когда LLM интерпретирует контент, всё это просто текст.