Experiential - Open Source Model Gateway for Agent Workflows
Show HN: We built open OpenRouter that turns usage into a better model
Experiential ist ein Open-Source-Gateway und Router für Agent-Workflows. Es bietet eine einheitliche, OpenAI-kompatible API für gehostete, BYOK- und lokale Modelle und ermöglicht die Kontrolle über Nutzer, Agenten, Modelle und Budgets. Durch die Analyse von Produktionsdaten optimiert Experiential die Modellauswahl für Qualität, Geschwindigkeit und Kosten. Es kann lokal oder als gehostete Plattform genutzt werden und unterstützt Coding-Agenten wie Claude Code, Cursor und Codex. Mit Funktionen wie Telemetrie und Fine-Tuning eigener Modelle bietet es eine umfassende Lösung für die Verwaltung und Optimierung von KI-Modellen.
Experiential verwandelt Produktionsdaten in einen maßgeschneiderten Router, der Qualität, Geschwindigkeit und Kosten optimiert – ein offener OpenRouter für Agent-Workflows.
- Areibman
Könntest du mehr darüber sagen, wie das Caching funktioniert? Ein großer Vorteil, bei einem einzigen Modell zu bleiben, ist das Sparen von Kosten für gecachte Eingabe-Tokens. Ich könnte mir vorstellen, dass man durch den Wechsel zwischen vielen Modellen zwar die Leistung verbessert, aber die Kosten explodieren könnten.
- akshay_akula
Open Source und kein Aufschlag sind die richtige Standardeinstellung für ein Gateway. Die obige Frage zum Caching wäre die, die ich beantwortet haben möchte, bevor ich die Modelle wechsle.
- ceroxylon
>Das Gateway fügt für BYOK-Anfragen weniger als 1 ms hinzu.
Erstaunlich! Wirklich brillante Idee, danke, dass du dieses Projekt teilst. Es gibt so viel zu entdecken in der Welt der LLM-Gateways, des Routings und der Berichterstattung, und das ist ein großartiger Anfang. Die Tinker-Implementierung ist mein Lieblingsteil, Feintuning ist viel besser als ein Meer von Kontextdateien.
- cheema33
Ich habe es noch nicht ausprobiert. Ist es ähnlich wie LiteLLM? Wenn ja, was unterscheidet es?
- forgetme2020
Was ist hier das Geschäftsmodell? Wie verdient Experiential Labs Geld?