AI-агент случайно слил ключ, и промпты клиентов Together AI утекли наружу

Together.ai: Prompt Leakage for Requests

AI-агент случайно слил ключ, и промпты клиентов Together AI утекли наружу

Together AI раскрыла инцидент: при разработке публичного репозитория xorl AI-агент закоммитил учётные данные к приватному репозиторию Hugging Face с образцами промптов к моделям MiniMax M3, GLM-5.2 и Kimi K2.6 за июнь и июль 2026 года. Посторонний скачал эти данные и искал в них ключи к другим сервисам. Компания уже ввела короткоживущие ключи, проверку pull request'ов и zero data retention по умолчанию для новых аккаунтов.

Во время окна экспозиции посторонняя сторона получила учётные данные и использовала их, чтобы скачать сохранённые образцы промптов. Затем эта сторона искала в этих образцах учётные данные к другим сервисам и проверяла, действительны ли они.
  1. tczMUFlmoNk

    > Во время разработки нашего публичного репозитория на GitHub, xorl, AI-агент по написанию кода закоммитил учётные данные, которые давали доступ к приватному репозиторию Hugging Face

    Я делаю акцент на перекладывании ответственности. Нет, «xorl» этого не делал — это сделали вы. И если «xorl» — это https://github.com/togethercomputer/xorl, а `togethercomputer` — это together.ai, то вы написали «xorl» и несёте двойную ответственность.

    Если бы пять лет назад я сказал: «Во время разработки нашего публичного репозитория на GitHub мой компьютер решил закоммитить учётные данные», это немедленно было бы воспринято как постыдное уклонение от ответственности, каковым оно и является. Так же следует воспринимать это и сейчас.

  2. sans_souse

    Правильно ли я понимаю, что у Dragos был настроен и запущен некий эксперимент именно для такого сценария, который фактически позволил им отследить утечку до конкретного человека?

  3. ChrisArchitect

    Связанное:

    Data Processing Incidents on Inference Providers

    https://news.ycombinator.com/item?id=50595554

Ещё за этот день

2026-11-22