OpenRouter, 데이터 유출 의혹에 추론 제공업체 3곳 퇴출
Data Processing Incidents on Inference Providers

보안 연구진이 일부 추론 제공업체에서 데이터 정책 위반 정황을 보고하자 OpenRouter가 조사에 나섰다. OpenRouter 자체 침해는 없었지만, 3개 제공업체를 플랫폼에서 퇴출하고 125개 엔드포인트의 Zero Data Retention 자격을 박탈했다. 영향을 받을 수 있는 고객 전원에게 통보했으며, 연구진의 테스트 방식을 상시 점검에 도입하고 네트워크 경로 검증도 진행 중이다.
OpenRouter에 입점하려는 제공업체는 이 기준을 충족해야 할 것이다.
HN 토론
88- mbgerring
어떤 추론 제공업체도 데이터 보존에 관해 공개한 약속을 지키고 있지 않다고 가정해야 합니다. LLM과 네트워크로 주고받는 것의 100%가 기록되고, 저장되고, 학습 데이터로 사용된다고 가정해야 합니다. 다른 입장은, 음, 5년 넘게 기술 업계에 몸담아 본 사람이라면 누구에게나 변호할 수 없는 순진함일 뿐입니다.
- usernomdeguerre
와, 이 이야기를 완전히 놓쳤네요. 다음 외부 AI 갱신 때 선택지의 폭과 가격 때문에 OpenRouter로 옮기는 것을 진지하게 고려했었는데, 이 일로 그 고려는 완전히 끝났습니다.
노출된 사례들의 폭과 다양성만 봐도 OpenRouter 내부에 누구를 마케팅하고 제공업체를 어떻게 분류하는지에 대한 실사나 가드레일이 전혀 없다는 게 분명합니다. 이에 대한 그들의 대응은 몇 가지 첫걸음을 보여주긴 하지만 어느 것도 법적 효력이 있어 보이지 않고, Stripe에 인수된 회사라면 더 많은 것을 기대했을 겁니다.
제 일상용 모델이 로컬 모델이고 이런 외부 서비스는 아껴서만 쓴다는 게 정말 다행입니다.
- hasyimibhar
AWS Bedrock을 통한 ZDR은 여전히 안전한가요? 제가 알기로는 Bedrock이 제공하는 모든 모델을 자체 호스팅합니다. Claude 같은 독점 가중치 모델조차 AWS 네트워크 안에서 실행됩니다.
- redrix
OR의 이번 조치는 반갑네요.
그렇긴 해도, 최고의 ZDR 계약은 여러분 회사가 추론 제공업체와 직접 맺는 계약입니다. 안타깝게도:
- 모든 회사가 그럴 만큼 크지도(또는 돈이 충분하지도) 않습니다.
- 결국 보안 문서를 감사한 뒤에도 그들이 ZDR을 하고 있다고 "신뢰"해야 하는 같은 처지에 놓입니다.
- leobg
덧붙이자면, 저는 항상 결정 모델(decision model)에 대해 궁금했습니다. 그것들은 정말 저렴하거든요. 제공업체들이 데이터 수집을 위한 허니팟으로 그것들을 쓰고 있음이 틀림없다고 생각하지 않을 수 없습니다:
학습할 수 있는 실제 기업 문서는 웹에서 찾을 수 없습니다. 그리고 기업들은 인센티브가 있더라도 모델 개선을 위해 그것들을 여러분에게 업로드하지 않을 겁니다. 하지만 입력 가격이 아주 싸고 출력이 무료인 모델을 제공하면, 거대한 데이터 흐름을 손에 넣게 됩니다.
"연구소"들이 이걸로 학습하지 않았을 거라고 생각하는 것은, "음, 불법이니까" 그림자 도서관 책으로는 절대 학습하지 않았을 거라고 생각하는 것과 같습니다. 그들은 그때 그렇게 했고, 그것이 경쟁사 대비 우위를 주었습니다. 그렇다면 지금은 왜 안 하겠습니까?