Revolut verbannt Claude Code und Codex fast komplett – 2.000 Entwickler arbeiten jetzt mit selbst gehostetem GLM
Revolut moves to self-hosted GLM
Revolut hat rund 2.000 Entwickler auf ein selbst gehostetes GLM-Modell umgestellt und Claude Code sowie Codex auf die Ausnahmeliste verbannt. Laut David Abitbol, der dort die AI-Ops leitet, laufen 56 Nvidia B200 für gemischt 30 Cent pro Million Tokens – etwa ein Zehntel dessen, was Anthropic und OpenAI kosteten. Die Lead Time im Engineering sank um 70 Prozent. Der eigentliche Effekt: Erst als Tokens nicht mehr rationiert wurden, setzten die Entwickler AI auf alles an, nicht nur auf die schwierigen Tickets.
Frontier-Modelle werden zur Ausnahme, offene Gewichte zur Regel. Das ist ein Preisproblem für jedes Lab, das auf einen Börsengang zusteuert.
- littlecranky67
"die Fortschritte zeigten sich, als Token nicht mehr rationiert wurden" – Das kann ich absolut nachvollziehen. Ich leite (als externer Berater) ein größeres Entwicklerteam für einen riesigen Versicherungskonzern. Die Entwickler sind ziemlich junior oder generell eher der Typ "Ich bin hier Softwareentwickler geworden, weil dieses Unternehmen der einzige große Arbeitgeber im Umkreis von einer Stunde ist" (was heißt: keine Rockstar-Entwickler). Die meisten von ihnen spielen in ihrer Freizeit nicht mit KI, und ihnen wurde gesagt, sie sollen Claude-Token sparsam einsetzen. Jetzt hat jeder zu viel Angst, damit herumzuspielen und während der Arbeitszeit zu experimentieren, aus Furcht, wegen Token-Verbrauch bloßgestellt zu werden.
Gleichzeitig kann der Großteil ihrer Junior-Entwicklungsarbeit komplett durch KI ersetzt werden – sie sollten also wirklich anfangen zu lernen, wie man damit arbeitet. Ich habe jedem empfohlen, ein privates Claude-Abo für 20 €/Monat abzuschließen und es für Spielprojekte zu nutzen. Ich habe jüngere Entwickler (Anfang 20) im Team, die mir sagten, sie würden kein privates Geld ausgeben oder hätten einfach keinen Anwendungsfall für KI in ihrem Privatleben. Wir reden hier über Softwareentwickler, und meiner Meinung nach verdrängen die meisten von ihnen die Tatsache, dass ihre Fähigkeiten größtenteils wertlos geworden sind, wenn sie nicht anfangen, sich in etwas Wertvolles umzuorientieren.
- jacquesm
Wir haben dasselbe gemacht, auf deutlich weniger leistungsfähiger Hardware, aber es hat uns sehr gute Dienste geleistet, und wir müssen uns überhaupt keine Gedanken darüber machen, ob den Anbietern von Inferenzdiensten langfristig mit unseren Daten zu trauen ist. Die Antwort auf diese Frage ist meiner Meinung nach "absolut nicht".
- redmalang
In den letzten Monaten gehen etwa 90 % unserer Arbeit an Open-Source-Modelle. Wenn man den Lärm um "billig" usw. ignoriert, stellt man vielleicht fest, dass diese Modelle mit etwas zusätzlichem Aufwand, um genauer zu definieren, was man braucht, im Allgemeinen genauso gut funktionieren und Anweisungen in der Regel genauer befolgen – über längere Zeiträume ist das tatsächlich ziemlich hilfreich.
Sie sind weniger gut bei mehrdeutigen Prompts wie "behebe alle Probleme" (was zu meinem Leidwesen ein sehr häufiger Prompt ist, wie sich herausstellt …)
- gosen
> Laut David Abitbol, der dort die KI-Abläufe leitet: 56 Nvidia B200s, gemischte 30 Cent pro Million Token, etwa ein Zehntel dessen, was sie an Anthropic und OpenAI zahlten.
Sie haben also rund 2,5–3 Mio. $ in Hardware + monatliche Betriebskosten (Strom, Updates, Kühlung) investiert. Ich frage mich, wie viel sie für Token ausgegeben haben, um sich zu einem solchen Wechsel zu entscheiden. Ich meine, wenn sie früher 500.000–1 Mio. $ pro Monat nur für Token ausgegeben haben, dann würde es sich in etwa einem Jahr amortisieren, vorausgesetzt, ihre Infrastruktur ist stabil und effizient.
Wir werden sehen, ob das ein Trend für mittelgroße bis große Unternehmen ist oder nur ein Experiment.
Die ganze Rechnung geht davon aus, dass alles im eigenen Rechenzentrum selbst gehostet wird und nicht an einen Cloud-Anbieter gezahlt wird, was wahrscheinlich teurer wäre.
- world2vec
Bei meinem Tagesjob nutzen wir ebenfalls selbst gehostetes GLM-5.3 über unsere Variante von pi.dev, aber die Teams haben weiterhin Entscheidungsfreiheit, ob sie Claude Code verwenden oder nicht (es gibt ein Teambudget, das für was auch immer das Team entscheidet, ausgegeben werden kann). Einige Teams wie meines verwenden immer noch gerne Claude Code für einen Großteil der Arbeit, aber die meisten Dinge erfordern nicht das neueste und beste LLM und können mit "geringeren" LLMs erledigt werden, indem man einfach viele Token und Rechenleistung darauf wirft.
- andy99
Das ist eine vernünftige Version dessen, wie "souveräne" KI für viele aussehen kann. In Kanada hatten wir gerade diesen nationalen Plan, ein minderwertiges KI-Produkt im Namen der Souveränität überteuert zu bezahlen. Selbst wenn GLM etwas hinterherhinkt, ist dies wahrscheinlich nahe an der Pareto-Grenze.
Sie könnten auch in Betracht ziehen, dies auf OpenRouter anzubieten, wenn sie freie Kapazitäten haben, um die Hardware möglichst effektiv zu nutzen.
- irthomasthomas
https://xxcancel.com/guilleflorvs/status/2117379073785696395
- InsidiousWombat
Wenn Investoren wüssten, wie leistungsfähig offene Modelle sind, würden die Bewertungen der KI-Unternehmen über Nacht einbrechen.