Un mes programando con GLM 5.3 Flash: solo la mitad del presupuesto se usó en el modelo objetivo

One month coding with GLM 5.3 Flash

Un mes programando con GLM 5.3 Flash: solo la mitad del presupuesto se usó en el modelo objetivo

El equipo de Wagtail intentó usar exclusivamente GLM 5.3 Flash durante un mes para programar, pero solo la mitad de los 2 mil millones de tokens se destinaron a ese modelo. Los obstáculos incluyeron un prototipo de servidor MCP que consumió 450 millones de tokens en una noche, problemas de capacidad del proveedor y la necesidad de experimentar con otros modelos. Aprendieron a medir el uso localmente y a presupuestar la experimentación.

Para el trabajo diario de desarrollo, es totalmente viable centrarse en uno o dos modelos baratos de la gama flash. Un objetivo viable es probablemente que la mayoría del trabajo de inferencia de IA se realice con modelos eficientes, medido en coste o energía en lugar de tokens sin sentido.
  1. epistasis

    Una cosa de estos números que me resulta absolutamente impactante es lo bajo que es el uso de energía:

    > El uso de ese modelo estuvo muy dentro de nuestro presupuesto ($68, unos 4kWh de uso de energía / 365 gramos de emisiones de carbono).

    El costo de energía es literalmente el 1% del costo total. Para ponerlo en contexto, 4kWh de energía te llevarían unos 15 millas en un EV, aproximadamente la mitad de las millas que conduce una persona promedio al día. Es hervir 10 galones de agua.

    Con toda la charla sobre el impacto de los centros de datos de IA en el mundo, uno pensaría que esto sería 10x a 100x la cantidad de energía para obtener los efectos que están usando aquí.

    Mi conclusión: la construcción de centros de datos de IA es una sobreconstrucción probablemente al menos tan grande como la construcción de fibra que nos dejó con tanta fibra oscura. Si no es incluso más grande. Lo único que salvará la economía es la incapacidad de NVIDIA y las fábricas de chips de producir suficientes chips para igualar la construcción planificada.

  2. aktenlage

    > Desafortunadamente, todavía tiene consecuencias. Elegí el modelo 'equivocado' para el prototipo, y gastamos 450M tokens / $150 / 5kWh de uso de energía casi de la noche a la mañana. El servidor MCP en sí funciona bien y ahora tenemos una gran demo de las capacidades, así que no fue en vano:

    > Sin embargo, es un buen recordatorio para tener cuidado con la selección de modelos y con los patrones agénticos. Podríamos haber logrado resultados similares por probablemente 5x menos costo con no mucho más esfuerzo. ¡Lecciones aprendidas! Necesitamos presupuestar para esto y ser más cuidadosos. Podríamos haberlo visto venir, pero ahora lo sabemos.

    No lo entiendo. ¿Por qué fue equivocado? ¿Cuál habría sido mejor? ¿Cuál fue la lección y cómo podrías haberlo previsto?

  3. hgoel

    He estado muy entusiasmado con las mejoras de velocidad más recientes para GLM5.3-Flash en clústeres DGX Spark. Realmente se siente cerca de lo que era hablar con Opus ~4.5. Todavía no está del todo ahí en consistencia, pero es una experiencia muy agradable. Menos barreras y versiones abliterated de alta calidad mejoran aún más su utilidad.

    Aunque, Qwen3.8-Flash-Next está muy cerca de ese nivel mientras requiere menos recursos para ejecutarse, así que espero con muchas ganas Qwen4.

  4. disiplus

    ¿Este post fue generado con un LLM? ¿Mencionó en algún lugar adecuadamente por qué exactamente falló con un ejemplo, o tengo problemas para leer?

  5. monksy

    GLM5.3-flash ha sido fantástico para mí para hacer pequeñas correcciones de maneras ambiguas. "Arregla la característica x, qué está saliendo mal". Hace el trabajo.

  6. Tepix

    Eso es simplemente un artículo horrible, muy vago, razones equivocadas, realmente una pérdida de tiempo.

  7. nxobject

    Este no era el punto principal del autor, pero me impactó cuando dijo "esto no es lo que solemos aspirar, pero funciona bien para prototipos". Captura cómo me siento sobre el vibe coding: ¡puedes lidiar con tareas increíblemente complejas! Pero, Dios, ¡no voy a usar (digamos) un controlador de GPU producido por IA a diario! Quizás deberíamos normalizar (de nuevo) "tirarás a la basura tu primer intento".

  8. ThibWeb

    Fue un desafío un poco tonto, no estaba seguro de qué tan viable era, aprendí mucho en el proceso sobre qué impulsa realmente el uso / los costos, y cómo mantener ambos bajo control

Más de este día

2026-10-02