Ein Monat mit GLM 5.3 Flash: Nur die Hälfte der Token blieb beim Zielmodell

One month coding with GLM 5.3 Flash

Ein Monat mit GLM 5.3 Flash: Nur die Hälfte der Token blieb beim Zielmodell

Das Wagtail-Team wollte einen Monat lang ausschließlich mit GLM 5.3 Flash arbeiten. In der ersten Monatshälfte klappte das gut, doch dann gingen 1 Milliarde der insgesamt 2 Milliarden Token an andere Modelle – verursacht durch einen teuren Vibe-Coding-Fehler, Infrastrukturprobleme und den Bedarf, verschiedene Modelle zu testen. Unterm Strich standen 35 kWh Energieverbrauch statt der angepeilten 10. Die Erkenntnisse: mehr auf Kosten und Energie achten, Experimente einplanen und verstärkt auf effiziente Flash-Modelle setzen.

Wir hätten ähnliche Ergebnisse wahrscheinlich mit fünfmal geringeren Kosten und nicht viel mehr Aufwand erzielen können.
  1. epistasis

    Eine Sache an diesen Zahlen, die mich absolut schockiert, ist, wie niedrig der Energieverbrauch ist:

    > Der Verbrauch dieses Modells lag gut innerhalb unseres Budgets (68 $, etwa 4 kWh Energieverbrauch / 365 Gramm CO2-Emissionen).

    Die Energiekosten betragen buchstäblich 1 % der Gesamtkosten. Zum Kontext: 4 kWh Energie würden dich in einem EV etwa 15 Meilen weit fahren, etwa die Hälfte der durchschnittlichen täglichen Fahrleistung einer Person. Es ist das Kochen von 10 Gallonen Wasser.

    Wenn man die Diskussion über die Auswirkungen von KI-Rechenzentren auf die Welt hört, würde man denken, dass es das 10- bis 100-fache an Energie sein müsste, um die Effekte zu erzielen, die hier genutzt werden.

    Mein Fazit: Der Ausbau der KI-Rechenzentren ist ein Überbau, der wahrscheinlich mindestens so groß ist wie der Glasfaserausbau, der uns so viel Dark Fiber hinterlassen hat. Wenn nicht sogar noch größer. Das Einzige, was die Wirtschaft retten wird, ist die Unfähigkeit von NVIDIA und den Chip-Fabs, genügend Chips zu produzieren, um mit dem geplanten Ausbau Schritt zu halten.

  2. aktenlage

    > Leider hat es trotzdem Konsequenzen. Ich habe das ‚falsche‘ Modell für den Prototyp gewählt, und wir haben 450 Mio. Token / 150 $ / 5 kWh Energieverbrauch quasi über Nacht verbraucht. Der MCP-Server selbst funktioniert gut und wir haben jetzt eine großartige Demo der Fähigkeiten, also war es nicht umsonst:

    > Nichtsdestotrotz ist es eine gute Erinnerung, bei der Modellauswahl und bei agentischen Mustern vorsichtig zu sein. Wir hätten ähnliche Ergebnisse mit ziemlich sicher 5x geringeren Kosten und nicht viel mehr Aufwand erzielen können. Lektion gelernt! Wir müssen dafür budgetieren und vorsichtiger sein. Hätte man kommen sehen können, aber jetzt wissen wir es.

    Ich verstehe es nicht. Warum war es falsch? Welches wäre besser gewesen? Was war die Lektion und wie hätte man es vorhersehen können?

  3. hgoel

    Ich war sehr begeistert von den jüngsten Geschwindigkeitsverbesserungen für GLM5.3-Flash auf DGX Spark Clustern. Es fühlt sich wirklich nah an dem an, wie es war, mit Opus ~4.5 zu sprechen. Bei der Konsistenz ist es noch nicht ganz da, aber es ist eine wirklich schöne Erfahrung. Weniger Guardrails und hochwertige abliterated Versionen erhöhen seine Nützlichkeit weiter.

    Allerdings ist Qwen3.8-Flash-Next sehr nah an diesem Niveau, während es weniger Ressourcen zum Laufen benötigt, also freue ich mich wirklich auf Qwen4.

  4. disiplus

    Wurde dieser Beitrag mit einem LLM generiert, hat er irgendwo ordentlich erwähnt, warum genau es fehlgeschlagen ist, mit Beispiel, oder fällt mir das Lesen schwer.

  5. monksy

    GLM5.3-flash war fantastisch für mich, um kleinere Korrekturen auf mehrdeutige Weise vorzunehmen. „Repariere x Feature, was läuft schief.“ Es erledigt den Job.

  6. Tepix

    Das ist einfach ein schrecklicher Artikel, sehr vage, falsche Gründe, wirklich Zeitverschwendung.

  7. nxobject

    Das war nicht der große Punkt des Autors, aber es hat mich getroffen, als er sagte: „Das ist nicht das, was wir normalerweise anstreben, aber es funktioniert gut für Prototypen“. Es fasst zusammen, wie ich über Vibe Coding denke – man kann unglaublich komplexe Aufgaben bewältigen! Aber, Junge, ich werde nicht (sagen wir) einen von KI erzeugten GPU-Treiber täglich verwenden! Vielleicht sollten wir (wieder) normalisieren, dass „du deinen ersten Versuch wegwerfen wirst“.

  8. ThibWeb

    Es war eine etwas alberne Herausforderung, ich war nicht sicher, wie machbar sie war, habe im Prozess viel darüber gelernt, was tatsächlich die Nutzung / Kosten treibt und wie man beides unter Kontrolle hält

Mehr von diesem Tag

2026-10-02