Weave Router - Open-source model routing for coding agents
Show HN: Open-source model routing for coding agents at Astra-level performance
Weave Router는 Claude Code, Codex 등 어떤 코딩 에이전트에도 플러그인되어 LLM을 지능적으로 전환하는 오픈소스 라우터입니다. Astra급 성능을 유지하면서 비용은 절반, 속도는 2배 이상 빠릅니다. HMM과 분류기로 세션 상태를 추적하고, 캐시 효율을 계산해 최적의 모델을 선택합니다. GitHub에서 직접 사용하거나 호스팅 버전을 이용할 수 있습니다.
단일 모델보다 여러 모델의 앙상블이 더 나은 성능을 낼 수 있다는 우리의 초기 가설이 검증된 순간이었습니다.
HN 토론
39- creativeSlumber
> 그러면 그 세션을 통과하는 경로가 10^100개나 됩니다.
이게 맞나요? 실제로는 다음 턴이 무엇이 될지만 결정하게 될 텐데요. 왜냐하면 다음 턴 이후의 턴은 다음 턴의 결과에 의해 결정되니까요. 그렇다면 이 숫자는 10 * 100이 되어야 하지 않나요?
- YuechenLi
GPT 6 Astra + Deepseek 대신 GPT-6.1 Sol을 사용하는 것과 비교해 보셨나요? 제 테스트에서는 6.1 Sol이 6 Sol보다 토큰 효율이 훨씬 좋으면서도 성능은 Astra와 비슷했고, 일반 코딩에서는 6 Astra가 6/6.1 Sol보다 눈에 띄게 낫다고 느끼지 못했습니다. 6 Astra는 6 Sol에 비해 공간 추론/비전에서만 눈에 띄게 나은 것 같고, 6.1 Sol이 그 부분에서 격차를 정말 많이 좁혔거든요.
- thefourthchime
흥미로운 작업이네요, 라우터가 내부적으로 어떻게 동작하는지 설명해 주셔서 감사합니다. 확실히 매력적인 주제예요. Cursor의 auto 모드와 비교하면 어떨까요?
- 361994752
아주 흥미롭게 들리네요. gh copilot을 모델 제공자로 지원할 계획이 있나요?
- svnt
프런티어 모델이 라벨링한 데이터로 학습한다면, 더 단순한 문제를 인식해 더 저렴한 모델로 라우팅함으로써 비용 차원에서 우위를 갖는 것 외에, 어떻게 프런티어 모델의 성능을 능가할 것으로 기대하시나요?