Anthropic의 최고 AI 모델, 사용자 확보에 난항… 더 저렴한 도구가 선전

Anthropic이 망친 건 수익화를 모델 학습처럼 다룬 점이야. 실험에서의 성공은 이전이 가능한 게 아니라는 게 드러났지.

그들은 시장이 최고 수준 모델에 지불할 최고 가격을 찾으려고 했어. 하지만 소비자 입장에서는 이건 너무 혼란스럽고 불안하기만 해:

"Fable은 플랜의 일부로 일주일만 쓸 수 있어요"

"준비하세요! 토큰당 요금을 내야 합니다!"

"죄송합니다! 몇 주 더 연장해 드렸어요!"

"잠깐, 이제 사용량의 절반까지야"

"좋아요, 이제..."

대부분의 사람들은 신경 쓰고 싶지 않아. 우리는 AI를 전기처럼 원해. 공급이 쉽든 어렵든 그냥 거기 있는 것. 전기 회사가 언제든 끊길 위기에 처해 있길 원하지 않잖아.

그게 Anthropic이야. 그들이 프리미엄 가격을 지불하더라도 믿을 수 있는 서비스를 주고 싶어한다는 느낌이 안 들어. 끊임없는 흥정 게임이야. 그게 사람들이 벽으로 둘러싸인 정원 밖을 보게 만들어. 거기서 그들은 괜찮은 모델을 찾지... 그리고 그런 사기극 없이.

LLM을 안 쓰는 사람입니다. 왜냐고요? 생태계 문제 외에도, 제 조직의 핵심 자산을 {아무 인터넷 회사}에 맡기는 게 몹시 불편합니다. 그들이 훈련 데이터를 얻기 위해 가는 길을 보세요 - Spirit 통화 기록에 1,000만 달러? 수백만 권의 알려지지 않은 책을 스캔하려고 파괴한다고? 그들은 마약 중독자들도 양심적으로 보이게 만들어요.

당신의 프롬프트, 특히 전체 코드베이스를 포함한다면, 항공사 전화 통화나 1920년대 소설보다 훨씬 더 데이터가 풍부해요. 그래서 그들은 당신이 막으려고 아무리 체크박스를 선택해도 그걸로 훈련할 거예요. 이는 상업적 위험이자 거대한 새로운 공격 표면이에요.

소프트웨어 개발자만의 문제가 아니에요. 법률 회사가 공개 LLM 프롬프트를 아주 신중하게 통제하지 않으면, 두터운 고객 비밀 유지 소송을 기대할 수 있어요. 사실 경쟁 환경에 있는 어떤 조직도 걱정해야 해요: Acme Bolts: "Zoom Construction을 위한 프레젠테이션을 작성해 줘". Beta Bolts: "Acme Bolts가 Zoom Construction에 제안하고 있나?"

어쩌면 이것이 OpenAI와 Anthropic이 수요가 원하는 것보다 약한 이유의 일부일지도 몰라요. 그리고 조직이 전용 하드웨어에서 실행할 수 있는 오픈 가중치 모델이 번성하는 이유이기도 하고요.

그들은 스스로를 구석에 몰아넣었어. Fable은 너무 좋았고 그들은 $20 플랜에 그걸 공짜로 줬지. Opus 4.8에서 큰 도약이 필요했고, Opus 4.8은 다양한 도메인의 코딩에서 정말 훌륭해.

하지만 토큰 비용 때문에 죽어가고 있어. 사람들이 토큰에 더 많은 돈을 내게 해야 해. 그래서 Fable을 $200 플랜에 넣고 Opus 5를 출시했지. 나는 Opus 5가 의심스러워. 대부분 4.8보다 나빠. Fable과의 거리를 만들기 위해 일부러 성능을 낮춘 것 같아.

그래서 우리 대부분은 뭘 했지? Opus 4.8에 머물렀어. 통계가 이를 뒷받침해. 4.8이 여전히 지배적이야.

이제 그들은 곤란해졌어. 4.8을 없애면 모두가 반발할 거야. Opus 5.x를 4.8보다 낫게 만들면, 모두가 Fable로 옮기지 않게 되고, 가장 중요한 건 더 많은 돈을 내지 않게 되는 거지.

정말로, 그들이 할 수 있는 건 지금은 손해를 보고, 당분간 4.8을 $20 프로 플랜의 정점으로 두면서, Fable을 그들이 정말로 모두가 내길 원하는 $200에서 무한대의 가치를 지닐 만큼 훨씬 더 좋게 만드는 데 필사적으로 노력하는 것뿐이야.

와, 여기 분위기가 정말 부정적이네.

나는 $200 플랜(회사가 내줌)과 $20 OpenAI 플랜(내가 냄)을 쓰고 OpenRouter에도 잔액을 유지하고 있어.

Fable만 한 건 없어, 가까운 것도 없지.

최근에 프로젝트의 18시간 자율 재구축(성능/데이터 크기 트레이드오프 문제로 Spark에서 Pandas로 전환)을 실행하게 했어.

18시간 동안 Opus 하위 에이전트를 완벽하게 조율했어. 5시간 예산 내에서 에이전트 수를 관리하는 것도 훌륭했어(두 번 재시작해야 했던 것 같아).

18시간 후에 /simplify, /code-review, /simplify 주기를 실행했는데 또 6시간이 걸렸어.

20억 토큰(Opus와 Fable 혼합), 24시간 연속 코딩, 그리고 버그 없는 결과. API 가격으로는 $2000이 들었을 텐데 그만한 가치가 충분히 있어.

이런 장기 목표 작업에서 다른 모델을 올바른 궤도에 유지하는 Fable의 능력은 다른 어떤 것보다 훨씬 뛰어나.

중성화된 게 아니라, 사이버 거부를 한 번도 겪은 적이 없고, Fable의 영어는 실제로 읽을 만해(Opus 5와 달리).

덧붙이자면: Opus 5의 영어를 읽는 건 싫지만, 내 경험상 Sol보다는 확실히 더 나은 모델이야.

하지만 Sol을 얻는 대신 Opus 5를 잃는 건 감수할 수 있어. 하지만 Fable에 가까운 건 아무것도 없어.

Mythos? 그건 아주 특별한 기업 전용이야, 너는 지원할 필요 없어. Fable? 사이버 보안 잠금에 걸리지 않고는 잘못 보기도 어려워. 그리고 그걸 통과해도 사용량의 50% 미만으로 제한돼. 내 프로젝트에서 Fable 리뷰를 완료하는 데 한 달이 걸렸어.

정말 인색해. OpenAI의 최근 사용량 문제에도 불구하고, 그들은 여전히 Anthropic보다 훨씬 나아서 웃기기까지 해. Sol을 벤치마크로 코드 리뷰를 다시 실행했는데, Sol의 성능은 Fable의 70%-90% 수준이야. Anthropic은 여전히 최고의 모델을 가지고 있지만, 거의 쓸 수 없다면 무슨 소용이 있겠어?

Anthropic은 나에 대한 모든 호의를 잃었어. 그들의 정책부터 수사까지 모든 것이 "우리는 당신을 믿지 않는다"는 분위기야. OpenClaw에 사용하려는 사용자들을 대하는 방식도 마음에 안 들었고, Fable 난리도 마지막 빨대였어.

그리고 그들은 사용자들이 그런 것에 충성하지 않는 것에 어떻게든 충격을 받은 것 같아. 비용 문제가 아니야.

나를 포함한 많은 코더에게 LLM 기반 코딩 에이전트는 유용할 만큼 잘 작동하고, 어떤 경우에는 돈을 낼 가치가 있어.

하지만 LLM에서 수백억 달러에서 수천억 달러의 가치를 찾는 광범위한 산업 분야는 보이지 않아. 올바르게 작성된 계약을 검사할 린트나 컴파일러는 없어. 그래서 법률 회사에 유용해야 할 LLM은 코딩 에이전트보다 작업을 수동으로 훨씬 더 많이 검토해야 해.

다른 산업에서 덜 공식적인 문서 생산은 구조가 덜할 가능성이 높아. 어떤 상황에서는 문제가 되지 않을 수도 있지만, 지금 당장 예가 떠오르지 않네.

트랜스포머 모델은 빠르게 상품화되고 있고, 언젠가는 모두가 로컬에서 실행하게 될 것 같아. 지금도 16GB 그래픽 카드로 꽤 유용한 것을 실행할 수 있고, 10년 후에는 보급형 하드웨어가 지금의 고급 그래픽 카드보다 더 나은 모델을 실행할 것 같아. 보급형 하드웨어가 좋아지고 모델이 더 효율적이 되면서.

호스팅된 최첨단 모델이 존재하지 않을 거라는 뜻은 아니야, 그냥 드물어질 거야. 다른 어떤 상품 시장과도 다르지 않아. 예를 들어 대부분의 자동차는 값싼 상품 모델이고, 드문 개인만 비싼 럭셔리 자동차를 사고 기업은 비싼 트럭과 특수 장비를 사지.

우리 회사는 아직 Fable에 대한 광범위한 접근을 배포하지 못했어. ZDR 기준으로 제공되지 않기 때문이야. 기사에는 언급되지 않았지만 이 요소가 무관하지 않을 거라고 생각해.