AI 프롬프트 200만 건에 미끼를 심었더니, 세 곳이 이미 뚫려 있었다
AI Supply Chain Security: What Canary Tokens Found

Dragos 연구팀은 5개월간 약 200만 건의 프롬프트에 추적 가능한 canary token과 URL을 심어 AI 서비스에 보냈다. 그 결과 최소 세 AI 제공업체가 공격자에게 침해당해 미끼 AWS 키가 수만 건의 API 호출에 악용됐고, 추론 마켓플레이스의 개인 판매자들이 최저가로 모델을 올려 로그만 켜 두고 고객 프롬프트를 그대로 수집했다. ZDR 같은 프라이버시 설정도 무시돼 미국 업체로 보낸 프롬프트가 중국 연구소 스크래퍼에 걸리고, 한 링크는 Feishu 채팅에까지 흘러나왔다.
가장 심각한 발견은 가장 직접적이기도 했다. 우리는 공격자들이 세 곳의 서로 다른 호스팅 제공업체에서 데이터를 훔치고 있는 것을 발견했다. 우리 프롬프트는 미끼였지만 실제 고객 요청과 함께 처리되었고, 그 요청들도 거의 확실히 함께 복사되었다.
HN 토론
21- jofzar
https://openrouter.ai/blog/announcements/data-processing-inc...
Openrouter의 답변입니다.
솔직히 이제 어떻게 누가 그들을 ZDR에 대해 다시 신뢰할 수 있을지 모르겠습니다. 그들은 실사를 제대로 하지 않는 것 같습니다. (아래 데이터 거주지 관련 내용을 보세요)
> 이는 연구소에 직접 보낸 요청에만 국한된 것이 아니었습니다. 여러 미국 호스팅 제공업체가 이 연구소의 모델을 재판매하고 있었고, 그 제공업체들로 보낸 프롬프트에서도 똑같은 스크레이퍼가 작동했습니다. 프롬프트가 연구소로 다시 흘러들어가고 있었던 것입니다. 데이터를 미국에 두려고 일부러 미국 제공업체를 고른 고객은 돈을 낸 만큼의 것을 받지 못했습니다.
수정: 더 생각해 보니, "제공업체"가 그들보다 더 큰 위험을 감수하지 않는 한 그들이 어떻게 ZDR을 제공할 수 있었는지 모르겠습니다. Amazon/google을 ZDR에 대해 신뢰하는 이유는 그들이 계약을 어기거나 적발되면 거대한 소송과 사회적/업계의 반발이 일어날 것이기 때문입니다.
openrouter를 통한 "제공업체"들은 그런 위험 부담이 없습니다. 평판은 전부 openrouter에 있고, 이제 신뢰 사슬이 끊어진 이상, 선의로 누가 다시 그들의 "zdr"이나 "호스팅" 위치를 이용할 수 있을지 모르겠습니다.
- matltc
총알을 피했습니다. 처음부터 순수 CC 사용자였는데, 여기서 꽤 많이 언급되는 이 openrouter들을 한번 써볼까 생각했습니다. 돌이켜보면, 이제 데이터를 수백 개의 제공업체에 맡기는 것이니 명백히 그리고 엄청나게 안전하지 않은 것처럼 보이네요.
- DotNetCorePowa
바로 이번 주에 openrouter로 갈 뻔했는데, zdr 때문에 "umans"로 가기로 했습니다...
OR을 고르지 않은 게 다행이지만, 이제 벨기에 회사를 신뢰할 수 있을까요... 흠...