Dragos отправил два миллиона промптов с ловушками и нашёл три взлома у AI-провайдеров
AI Supply Chain Security: What Canary Tokens Found

За пять месяцев Dragos разослал около двух миллионов промптов с уникальными URL и canary-токенами по популярным AI-сервисам и проследил, куда утекают данные. Итог: признаки компрометации как минимум трёх провайдеров, перехват клиентских промптов реселлерами маркетплейса инференса и игнорирование настроек приватности — включая ZDR. Один из похищенных ключей AWS использовали ещё три недели спустя, а ссылка из промпта всплыла в корпоративном чате в Китае.
Флаг приватности не помогает, когда атакующий уже внутри.
- jofzar
https://openrouter.ai/blog/announcements/data-processing-inc...
Ответ Openrouter.
Честно говоря, я не уверен, как кто-то вообще сможет когда-либо доверять им в вопросах ZDR, похоже, они не проводят должной проверки. (См. раздел о местонахождении данных ниже)
> Это не ограничивалось запросами, отправленными непосредственно в лабораторию. Несколько американских хостинг-провайдеров перепродают модели этой лаборатории, и запросы, отправленные этим провайдерам, запускали тот же самый скрапер – запросы возвращались обратно в лабораторию. Клиент, который выбрал американского провайдера специально, чтобы держать свои данные в США, не получил того, за что заплатил.
Редактировано: Подумав ещё, я не вижу, как они могли предлагать ZDR, если только у «провайдера» нет больше шкуры на кону, чем у них. Причина, по которой вы доверяете Amazon/Google в вопросах ZDR, в том, что если они нарушат контракт или их поймают, это будет массовый судебный иск и социальная/отраслевая реакция.
У «провайдеров» через openrouter нет такой шкуры на кону, вся репутация у openrouter, и теперь, когда цепочка доверия разрушена, я не вижу, как кто-то добросовестно сможет когда-либо использовать их для своего «zdr» или местоположения «хостинга».
- matltc
Пронесло. Был обычным пользователем CC с самого начала, думал попробовать эти openrouters, о них здесь много говорят. Оглядываясь назад, это кажется очевидно и дико небезопасным, поскольку теперь вы доверяете свои данные сотням провайдеров.
- DotNetCorePowa
Я почти выбрал openrouter на этой самой неделе, но решил остановиться на «umans» для zdr...
Я рад, что не выбрал OR, но теперь могу ли я доверять бельгийской компании... Хм...