Experiential - Open-source model gateway and router for agent workflows
Show HN: We built open OpenRouter that turns usage into a better model
Experiential은 폐쇄형, 오픈소스, 로컬 및 커스텀 모델을 하나의 제어 평면으로 통합하는 오픈소스 모델 게이트웨이입니다. OpenAI 호환 API를 제공하며, 사용자 및 에이전트별 모델 사용 제어, 예산 관리, 그리고 실제 트래픽을 기반으로 한 커스텀 라우터 또는 모델 최적화 기능을 지원합니다. 로컬 설치 또는 호스팅 플랫폼을 통해 쉽게 시작할 수 있으며, 기존 코딩 에이전트(Claude Code, Cursor, Codex 등)를 연결하여 사용할 수 있습니다. Experiential은 복잡한 모델 관리를 단순화하고, 비용과 품질을 최적화하려는 개발자와 팀에게 유용합니다.
프로덕션 트래픽을 더 나은 모델로 전환하는 오픈소스 게이트웨이, Experiential.
HN 토론
46- Areibman
캐싱이 어떻게 작동하는지 좀 더 설명해 주실 수 있나요? 단일 모델을 고수하는 가장 큰 장점 중 하나는 캐시된 입력 토큰 비용을 절약할 수 있다는 점입니다. 여러 모델 사이를 전환하면 성능은 향상될 수 있지만 비용이 통제 불능으로 치솟을 것 같아요.
- akshay_akula
오픈소스에 마크업이 없는 것은 게이트웨이의 올바른 기본값입니다. 위의 캐싱 질문은 모델을 전환하기 전에 답을 얻고 싶은 질문입니다.
- ceroxylon
>게이트웨이는 BYOK 요청에 1ms 미만을 추가합니다.
놀랍네요! 정말 훌륭한 아이디어입니다. 이 프로젝트를 공유해 주셔서 감사합니다. LLM 게이트웨이/라우팅/리포팅 세계에서 다뤄야 할 부분이 많은데, 훌륭한 시작입니다. Tinker 구현이 제가 가장 마음에 드는 부분입니다. 파인튜닝이 수많은 컨텍스트 파일보다 훨씬 낫습니다.
- cheema33
아직 사용해 보지 않았습니다. LiteLLM과 비슷한가요? 그렇다면 차별점은 무엇인가요?
- forgetme2020
여기서 비즈니스 모델이 무엇인가요? Experiential Labs는 어떻게 수익을 내나요?