Experiential: 统一多模型智能网关
Show HN: We built open OpenRouter that turns usage into a better model

Experiential 是一个开源模型网关,让开发者通过单一 OpenAI 兼容 API 无缝调用托管、本地及自定义模型。它提供精细的权限控制与预算管理,支持将生产流量转化为定制路由,自动优化模型在质量、速度与成本间的平衡。无论是本地部署还是使用托管平台,都能轻松集成到现有工作流中,是构建智能体系统的理想控制平面。
HN 评论区
46- Areibman
能否多讲讲缓存机制?坚持使用单一模型的一个主要优势是可以节省缓存输入 token 的费用。我想象如果在一堆模型之间切换,虽然性能可能会提升,但成本可能会失控。
- gpiechnik2
设计很棒!我喜欢。
- akshay_akula
开源且不加价是网关的默认正确选择。不过在切换模型之前,我想先看到上面那个关于缓存的问题得到解答。
- ceroxylon
> 网关为 BYOK 请求增加不到 1 毫秒的延迟
太棒了!真是个绝妙的点子,感谢分享这个项目。在 LLM 网关/路由/报告领域还有太多工作要做,这是一个很好的开端。我最喜欢的部分是 Tinker 的实现,微调远比一堆上下文文件要好。
- cheema33
我还没试过。它和 LiteLLM 类似吗?如果是的话,它的独特之处在哪里?