Fable과 무료 점심의 종말

내가 작업하는 대부분의 것들은 적어도 보안과 관련이 있다. 어느 시점에서 Fable과 대화하다 보면 필연적으로 보안 관련 측면을 생각하게 되어 안전장치에 걸리게 된다. Fable이 다른 모델보다 같은 일을 더 잘할 수도 있지만, 안전장치를 피하기 위해 조심스럽게 행동해야 한다는 점 때문에 GPT 5.6이 훨씬 사용하기 쉬워서 이제는 Fable(또는 Opus 5)을 아예 사용하지 않는다.

몇 달 전, Microsoft가 대폭 보조금을 지급하던 요청당 가격 모델을 중단했을 때 사람들이 당연히 화가 났었다. 그건 문자 그대로 돈을 태우는 것이었기 때문이다. 자, 나는 지금 Cursor에서 이 Space-X 인수와 관련해 무슨 일이 벌어지고 있든, Auto 설정이 분명히 모든 프롬프트를 'Cursor Grok 4.6 High'로 라우팅하고 있다는 것을 말해주려고 한다. 이것은 Microsoft의 경우가 오히려 보잘것없어 보일 정도의 보조금이다. 나는 월 200달러 구독을 월 20달러 수준으로 낮추고, Opus 4.7 정도로 하려면 약 1500달러를 지불했을 작업을 진행했다. Grok 4.6 High가 그와 비교되는 느낌이다. 이 추정치를 뒷받침할 확실한 증거는 전혀 없지만, 내가 그것이 하는 것을 지켜보는 것 외에는, 그리고 여전히 내 계정에 월 Auto 용량의 약 10%가 남아 있다. 완전히 미친 짓이다. 누군가 정신을 차리기 전에 처리해야 할 백로그가 더 있기 때문에 더 이상 말할 수 없다.

GLM-5.3에 대해 정말 좋은 경험을 가지고 있다. 구독 한도가 넉넉하고, 코드 품질은 이전(좋은) 버전의 Opus 4.8과 비슷하다. 어떤 사람들은 느리다는 문제를 보고하지만, 나는 느끼지 못했다. 나는 OMP 하네스(Pi 파생)와 Matt Pocock 스킬을 사용한다.

모델이 지능 사다리를 따라 훈련됨에 따라, 많은 일반적인 작업은 완전히 수확 체감에 도달할 것이고, 대신 그 작업을 수행하는 것이 점점 더 저렴해질 것이다. 그러나 AI가 할 수 있는 작업도 확장되고 있다. '어떤 작업은 최첨단의 정점을 요구하지 않는다'는 것이 AI 재정 관점에서 걱정할 가치가 있는지 잘 모르겠다.

Fable 출시 이후(그리고 주로 그로 인한 변경 때문에) ChatGPT로 전환한 사람으로서 이 글을 읽으면 다소 순진해 보인다. 나는 Sol이 Fable만큼 좋거나 더 좋다고 생각할 뿐만 아니라, 더 빠르고, 더 예의 바르며, 훨씬 더 일관된 글쓰기 스타일을 가지고 있다. 또한 무작정 Opus 다운그레이드를 당하지 않는다. OpenAI는 Cerebras와의 파트너십 덕분에 이것을 해내는 것 같다. 그래서 아직 그 분야에서 시작 단계인 것처럼 보이므로 무어의 법칙과 비교하지 않을 것이다. Anthropic도 같은 일을 할 수 있고 해야 한다. 모델 개발이 지금 우리가 가진 모델을 위한 특수 목적 실리콘을 만드는 것이 가치 있는 시점에 와 있다고 확실히 느껴진다. 왜냐하면 그들은 충분히 유능해서 더 발전이 있더라도 여전히 유용할 것이기 때문이다. 오히려 Anthropic의 문제는 사용자가 모델로 무엇을 할 수 있는지에 대한 과도한 관리와 더 관련이 있다고 생각한다. 그들은 사용과 기능을 과도하게 규제함으로써 스스로에게 불필요한 부담을 만들고 있다.

무어의 법칙 비유는 약한 것 같다. CPU 속도는 그 경우 한계에 도달했다. AI의 경우 무엇이 한계에 도달했는가? 최신 버전의 모델은 여전히 더 많은 능력과 함께 나오고 있다. 사용자에게는 오히려 '무료 점심이 시작되었다'고 느껴진다. 이 모든 훌륭한 오픈 가중치 모델이 돌아다니며 몇몇 큰 기업들의 독점을 깨고 있기 때문이다.

사람들이 덜한 모델에 맡길 수 있는 그런 기계적인 코딩 작업들은 무엇인가?