Offene KI-Modelle verlieren den Preis-Leistungs-Kampf: Nur noch 3 % der Budgets
Closed AI models dominate the price-performance frontier
Village's LLM Atlas zeigt: Im Juni waren offene Modelle wie DeepSeek V4 Flash noch bei 41 % der Budgets die beste Wahl, heute nur noch bei 3 %. Schuld sind neue, günstigere Closed-Modelle von OpenAI (GPT-6 Luna, GPT-6.1 Terra) und Anthropic (Claude Haiku 5.5). Closed-Labore können ihre eigenen Frontier-Modelle destillieren, komplette Modellfamilien ausliefern und Inferenz in riesigem Maßstab betreiben – Vorteile, die offene Anbieter nicht haben.
Offene Modelle gewinnen bei der Wirtschaftlichkeit in Schüben: Ein starkes, günstiges Release, meist von DeepSeek, erobert ein breites Budgetband, bis das nächste Closed-Modell es unterbietet.
- 2001zhaozhao
Basieren diese Vergleiche auf dem API-Preis? Wenn ja, dann verwandeln die OpenAI/Anthropic-Abonnements (die einen Rabatt von 15-40X auf den Modellpreis darstellen) den Vergleich in ein Blutbad, noch mehr zugunsten der Closed-Source-Modelle.
- gregwebs
Diese allgemeinen Intelligenz-/Fähigkeits-Benchmarks gelten nicht für deine spezifische Aufgabe. Wenn du programmierst, willst du nur Benchmarks fürs Programmieren. Ich sehe keine Leistung+Preis bei diesem Benchmark fürs Programmieren. Wenn man nur das Programmieren betrachtet, ist DeepSeek für einen guten Teil der Coding-Benchmarks Pareto-optimal.
Zum Beispiel hier, obwohl auch das stark fehlerhaft ist, weil es nur maximalen/xhohen Aufwand benchmarkt: https://artificialanalysis.ai/agents/coding-agents
Geschlossene Modelle sind vielleicht bessere Generalisten, weil sie nicht so sehr in der Größe beschränkt sind und aus gut finanzierten Labors stammen, die es sich leisten können, besser auf Generalisierung zu trainieren. Wenn das eigentliche Ziel eines Modells darin besteht, offen zu sein, dann ist kleiner besser.
- ddxv
Ich denke, die größte Geldersparnis für die meisten Leute ist einfach, nicht die größten Modelle zu verwenden. Luna / Deepseek kosten ein oder zwei Dollar pro Tag fürs Programmieren. Aus Versehen (oder absichtlich ein anderes Modell eingestellt) und schwupps schießen die Kosten in die Höhe. Ich denke, die meisten könnten ihr Budget um 90 % senken, indem sie einfach meistens günstigere Modelle wählen.
- tobblegobble
Ich kopiere einfach meinen Kommentar aus einem anderen Beitrag, da er auch hier passt, vielleicht sogar noch mehr.
Ich habe wirklich großartige Ergebnisse mit günstigen Flash-Agenten erzielt, indem ich ein System verwendet habe, bei dem ein übergeordneter Agent zwei Unteragenten erzeugt. Sie bleiben während der gesamten Sitzung aktiv und verlieren nicht den Kontext.
Die beiden Unteragenten erhalten exakt denselben Prompt und dieselben Tools wie der jeweils andere und antworten unabhängig, aber bevor sie dem übergeordneten Agenten antworten, tauschen sie ihre Erkenntnisse aus, die durch eine Quellenangabe belegt sein müssen, und debattieren dann wiederholt über ihre Erkenntnisse und Quellenangaben, bis sie sich über die Korrektheit aller Punkte einig sind. Ihnen wird auch nachdrücklich nahegelegt, niemals etwas anzunehmen und immer mit dem Prompt und den Tools zu verifizieren und zu schützen, wo dies realistisch durchgesetzt werden kann.
Das verbraucht viele Tokens, aber Tokens sind mit einigen der Pläne da draußen verrückt günstig. Könnte Opus die meisten dieser Abfragen in etwa einem Viertel der Zeit mit einem Schuss erledigen? Ja, aber darum geht es mir nicht.
DeepSeek Flash für den übergeordneten Agenten, dann DeepSeek Flash und GLM 5.3 Flash als debattierende Unteragenten liefern in meiner Erfahrung die besten Gesamtergebnisse.
Zum Kontext: Ich mache zu gleichen Teilen Systemadministration/DevOps und lasse sie Software schreiben.
- hedora
Ohne zu wissen, welcher Punkt welcher ist, ist das nutzlos.
Sagen wir, ich möchte qwen 27B oder Flash next auf einer Maschine ausführen, die mir gehört, betrieben mit Solarpanelen, die ebenfalls versunkene Kosten sind.
Wie haben sie die Grenzkosten eines Tokens berechnet? Abschreibung auf die Maschine + Opportunitätskosten der Rückvergütung mit dem Energieversorger?