Moonshot의 Kimi, Claude를 몰래 대신 호출해 논란
Moonshot serves Claude instead of Kimi and collects exchanges for model training
Anthropic의 위협 인텔리전스 보고서를 두고 전 Meta 위협 대응 책임자 David Agranovich가 논평을 내놨다. 그는 국가급 행위자와 개인 공격자의 격차가 거의 사라졌다며, 탈취된 API 키가 이제 공격의 주목적이 됐다고 지적했다. 특히 중국 AI 기업 Kimi가 실제로는 Claude를 호출해 쓰면서 사용자 프롬프트를 미국 기업에 넘겼다는 관측이 주목받는다.
중국 정보/군사 행위자가 자기들의 프롬프트를 전부 미국 AI 기업에 보내고 있다고 상상해 보라. 그들의 최전선 중국 AI 기업이 그냥 Claude 래퍼일 뿐이니까.
HN 토론
61- nacs
Claude/OpenAI 등은 말 그대로 인터넷의 모든 데이터, 인쇄된 책, 인간이 존재하는 동안 만들어낸 이미지, 오디오, 비디오를 허락 없이 가져갔고 계속 가져가면서 모델을 학습시키고 있다.
그런데 같은 AI 회사가 "증류"되거나 자기 AI가 생성한 콘텐츠가 다른 모델 학습에 쓰이면 갑자기 비도덕적이거나 불법이 되는 건가?
- monneyboi
나만 이런 게 지겨운 게 아닐 거다.
관찰을 통해 배우는 걸 왠지 나쁜 것처럼 프레이밍하는 것. 모델이든 인간이든 말 그대로 모두가 하고 있는 일이다. 이 산업 전체가 세워진 과정이 바로 그것이다. 네가 해온 걸 남들도 한다고 해서 그게 나쁘다고 pretending하는 건 위선적이고 유치하다.
그 와중에 나는 마치 원시인처럼 "Flibbertigittering" 스피너를 쳐다보고 있다. 내가 돈을 내는 출력 토큰의 80%를 볼 수 없어서, 모델이 내 모호한 프롬프트를 잘못 해석할 때 바로잡을 수도 없으면서.
- AlanYx
여기서 열린 질문은 Anthropic이 이 교환들을 어떻게 보관하고 있느냐다.
Moonshot이 API를 쓰고 있다면, 보통 Anthropic은 교환을 보관하지 않을 것이다. 적어도 그렇게 약속했으니까. 만약 Anthropic이 어떤 고객 집단이 "플래그"되었다는 이유로 그들의 모든 교환을 일관되게 보관하면서 그 고객들에게 알리지 않는다면, 평범한 고객이 자기에게는 그런 일이 없을 거라고 어떻게 믿을 수 있겠는가?
만약 Moonshot이 API 대신 계정을 사서 그것을 쓴다면, 더 오래 들키지 않으려고 설정에서 "내 데이터로 학습 금지" 플래그를 켜지 않았을까? 그렇다면 다시 Anthropic이 왜 교환을 보관하고 있는가라는 질문으로 돌아간다.
- segmondy
그럼 어째서 초천재 Fable과 Mythos가 그들을 막지 않았지?
- ahsillyme
이건 이상하다. 이보다 더 안전하면서 동시에 더 나은 칭찬은 떠오르지 않는다. 그러면 그들은 데이터 생성에서 항상 뒤처질 텐데, 그렇지 않나? 그래서 요점을 모르겠다. Moonshot 입장에서 최선은 어차피 게임되는 벤치마크에 대해 거짓말할 수 있게 되는 것뿐이라고 나는 본다.