Garry Tan, 미국 오픈웨이트 AI 랩도 프런티어 모델 '증류'해야 한다고 주장
Garry Tan wants US open-weight AI labs to 'distill' frontier models, too
Y Combinator CEO Garry Tan은 중국 AI 랩의 증류를 규제하기보다, 미국 오픈웨이트 랩이 미국 프런티어 모델을 합법적으로 증류해 중국산이 아닌 대안을 키워야 한다고 주장한다. 그는 AI 랩이 고객의 API 사용을 통제하는 것은 과도하며, 독점 랩들도 학습 데이터를 무단으로 긁어모았다고 지적한다. Anthropic의 Dario Amodei가 규제를 촉구한 것과 대조된다.
AI의 악몽 시나리오, 둠 시나리오는 단 한 회사만 존재하는 것이다. 그 회사가 최고의 자본과 최고의 AI 연구자들을 확보해 독주하고, 갑자기 하나의 거대한 단일 기업이 되는 것이다. 그건 나쁜 일이다.
HN 토론
231- kelnos
동의합니다. 프런티어 모델들은 수많은 저작권 있는 작업물에서 나온 학습 데이터에 기반하고 있습니다. 그 중 일부는 불법적으로 얻어진 것이기도 하죠. 그것들은 공유지를 채굴하지 않고서는 존재할 수 없었습니다. 연구소들은 최종 결과물에 대한 도덕적, 윤리적 소유권이 없으며, 다른 사람들은 회사가 부과한 사용 제한을 무효로 간주해도 좋습니다.
Tan의 입장이 어떤 진정한 도덕적 우위에 기반했다고 기대하지는 않지만, 그의 결론은 맞습니다.
기존 업체들의 "불법 증류 공격"이라는 프레이밍이 참 마음에 듭니다. 불법적인 건 없습니다. 공격도 없습니다. 그저 당신의 시장 지위와 비즈니스 모델을 위협하기 때문에 마음에 안 드는 것뿐입니다.
- TheJCDenton
> 그는 또한 독점 AI 연구소들이 모델을 학습시키기 위해 가능한 한 많은 인간 지식을 빨아들일 때 허락을 구하지 않았다고 지적합니다.
이것이 Anthropic이 말하려는 도덕적 우위를 무력화시킨다고 생각합니다. 그들이 증류를 질서 있게 만들고 싶어하는 건 솔직히 공정하다고 봅니다만, 그것을 불법으로 만드는 건 정말이지 어떤 AI 프런티어 연구소에게도 뻔뻔한 일입니다.
- dvt
OpenAI와 Anthropic은 망하거나, 적어도 향후 5년 안에 부품으로 해체될 거라고 생각합니다. 추론이 이미 보조금을 받고 있는 상황에서 학습에 소모된 막대한 비용을 회수하는 건 불가능하다는 게 명백합니다.
또한 Tan이 지적한 대로, 오픈웨이트 모델이 프런티어 모델만큼 좋아질 것(그리고 사실상 이미 그렇다는 것)도 명백합니다. 모든 건 하네스에 달려 있죠, 자기야. 우리 앞에는 두 개의 주요 갈림길이 있고, 두 개의 새로운 산업이 생겨날 겁니다:
- AI 하드웨어 (NVidia/Cerebras 등), Intel/AMD에 해당
- AI 소프트웨어 (하네스, 어시스턴트 등), Microsoft/Apple에 해당
우리는 이미 OpenClaw의 인기에서 이것의 실마리를 보았습니다—문제는 그것이 조잡하고, 설정하기 어렵고, 일관성이 없고, 매우 해커스러운 물건이라는 점입니다. 제 생각에 "AI 연구소"는 사양길에 접어들 겁니다. 모델이 상품화되면 실제 모델에서 진짜 돈이 나오지 않기 때문이죠. 이미 어느 정도 상품화되었고요.
- consumer451
> 그에게 진정한 AI 종말론 시나리오는 프런티어 AI의 엄청난 힘이 단일하고 강력한 독점 제공자의 손에 들어가는 것입니다. “AI의 악몽 시나리오, 종말론 시나리오는 단 한 회사만 존재하는 것입니다.”라고 그는 말했습니다. “그 회사는 자본에 대한 최고의 접근성을 가지고 있습니다. 최고의 AI 연구자들을 보유하고 있습니다. 그것을 독차지하고 갑자기 하나의 거대한 회사가 생깁니다. 그리고 그것은 나쁠 것입니다.
네, 제가 이전 댓글에서 말했듯이, 현재 추세대로라면 OpenAI와 Anthropic은 증류와 규제 압력 때문에 실제로 모델 출시를 중단할 겁니다. 그러면 그들은 모든 지식 노동을 스스로 먹어치울 것이고, 그것이 YC의 종말이 될 겁니다.
- nijave
변호사는 아니지만 증류는 변형적 저작물처럼 들립니다.
제 생각엔 Cliff Notes와 같은 것이죠. 제조와 기술의 다른 모든 영역에서 나는 기계를 사용해 원래 기계와 경쟁하는 새 기계를 만들 수 있습니다. Milwaukee가 DeWalt가 그들의 드릴을 사용해 경쟁 드릴을 만드는 것을 막을 수 있어야 할까요? Jetbrains가 Eclipse 기여자들이 그들의 IDE를 사용하는 것을 금지해야 할까요?
- dofm
폐쇄 가중치 모델에 대한 API 호출로 사용자와 고객이 하는 일을 통제하는 것은 제약처럼 느껴지며, 정부가 여기서 역할을 할 수 있습니다. 광범위한 공공 접근 데이터로 학습된 지능에 대한 접근 자체가 제한적인 서비스 약관 뒤에 잠긴 무언가라기보다 공공재의 한 형태여야 한다는 사실을 정상화하는 것이죠.
저는 이 사람과 자주 동의하지 않지만, 아주 간결하게 잘 표현했네요.
- gr_norm
사회 전체가 이 기술에 비용을 지불했습니다: 지적 재산의 도둑질을 통해서, 수많은 공유지(디지털이든 아니든)가 이 기술에 의해 약탈당하는 것을 감수함으로써, 치솟는 에너지와 컴퓨팅 기기 가격을 통해서, 그리고 심지어 평범한 투자를 통해서도요. 기술을 민주화하세요! 적어도 법적으로 이것이 일어나는 것을 막으려 나서지는 마세요.
- layer8