Dragos отправил два миллиона промптов с ловушками и нашёл три взлома у AI-провайдеров

AI Supply Chain Security: What Canary Tokens Found

Dragos отправил два миллиона промптов с ловушками и нашёл три взлома у AI-провайдеров

За пять месяцев Dragos разослал около двух миллионов промптов с уникальными URL и canary-токенами по популярным AI-сервисам и проследил, куда утекают данные. Итог: признаки компрометации как минимум трёх провайдеров, перехват клиентских промптов реселлерами маркетплейса инференса и игнорирование настроек приватности — включая ZDR. Один из похищенных ключей AWS использовали ещё три недели спустя, а ссылка из промпта всплыла в корпоративном чате в Китае.

Флаг приватности не помогает, когда атакующий уже внутри.
  1. jofzar

    https://openrouter.ai/blog/announcements/data-processing-inc...

    Ответ Openrouter.

    Честно говоря, я не уверен, как кто-то вообще сможет когда-либо доверять им в вопросах ZDR, похоже, они не проводят должной проверки. (См. раздел о местонахождении данных ниже)

    > Это не ограничивалось запросами, отправленными непосредственно в лабораторию. Несколько американских хостинг-провайдеров перепродают модели этой лаборатории, и запросы, отправленные этим провайдерам, запускали тот же самый скрапер – запросы возвращались обратно в лабораторию. Клиент, который выбрал американского провайдера специально, чтобы держать свои данные в США, не получил того, за что заплатил.

    Редактировано: Подумав ещё, я не вижу, как они могли предлагать ZDR, если только у «провайдера» нет больше шкуры на кону, чем у них. Причина, по которой вы доверяете Amazon/Google в вопросах ZDR, в том, что если они нарушат контракт или их поймают, это будет массовый судебный иск и социальная/отраслевая реакция.

    У «провайдеров» через openrouter нет такой шкуры на кону, вся репутация у openrouter, и теперь, когда цепочка доверия разрушена, я не вижу, как кто-то добросовестно сможет когда-либо использовать их для своего «zdr» или местоположения «хостинга».

  2. matltc

    Пронесло. Был обычным пользователем CC с самого начала, думал попробовать эти openrouters, о них здесь много говорят. Оглядываясь назад, это кажется очевидно и дико небезопасным, поскольку теперь вы доверяете свои данные сотням провайдеров.

  3. DotNetCorePowa

    Я почти выбрал openrouter на этой самой неделе, но решил остановиться на «umans» для zdr...

    Я рад, что не выбрал OR, но теперь могу ли я доверять бельгийской компании... Хм...

Ещё за этот день

2026-11-22