Los agentes de IA van a necesitar límites de gasto estrictos por defecto

We're going to need default hard budget caps on pretty much everything

Simon Willison sostiene que los servicios de pago por uso y las APIs necesitan límites de gasto estrictos por defecto, no solo avisos por correo. A medida que los agentes de IA generan código que consume recursos, el riesgo de facturas sorpresa de miles de dólares crece. AWS ya lanzó límites de gasto mensuales y Google Cloud ofrece Spend Caps, una tendencia que debería generalizarse.

Espero que la mayoría de las empresas y los individuos prefieran errores a una factura sorpresa de más de 10.000 dólares.
  1. motionlessveloc

    Solía trabajar en un equipo de soporte de un servicio de backend muy conocido que tenía límites de presupuesto estrictos.

    Fue, lamentablemente, una pesadilla. Había un montón de tickets e incluso amenazas de demandas de clientes cuyo servicio se cortó de golpe en el peor momento posible debido al crecimiento orgánico, a volverse viral, a un evento importante, a que nadie conocía el límite, etc. No solo perdieron todos los clientes potenciales y los ingresos que habrían obtenido de ese pico, sino que también cabrearon a sus propios usuarios existentes, que de repente tampoco podían usar el servicio.

    En términos generales, es mucho mejor usar alertas en lugar de un límite estricto. Incluso en el peor de los casos (hackers que roban tus credenciales y minan Bitcoin o lo que sea), el resto de tu negocio no se ve afectado y puedes negociar con el departamento de facturación con relativa tranquilidad.

    Todo esto asumiendo que tienes humanos operando el servicio. Si dejas que los agentes de IA hagan lo que les dé la gana en la infraestructura de producción, tienes toda una serie de problemas nuevos.

  2. kqr

    Esto va más allá de los cargos en dólares. Para que el código de producción sea fiable, todo necesita tener un límite estricto.

    Longitudes de cola, tamaños de petición, duración de espera de respuesta, tamaño de carga útil de mensajes, intentos de autenticación, tasas de asignación... siempre hay algún número superior más allá del cual el sistema está tan jodido que preferirías que se cayera.

    > Un argumento en contra de esto es que las empresas no quieren que sus aplicaciones alojadas empiecen a lanzar errores porque se superó algún presupuesto. Espero que la mayoría de las empresas e individuos prefieran errores a una factura sorpresa de más de 10.000 $.

    Efectivamente. Si quieres una factura sorpresa de 10.000 $, eso tampoco es un argumento en contra de un límite estricto: simplemente ponlo en 9.999.999 $ o donde sea que no quieras la factura sorpresa. Siempre hay un número que indica que algo se ha vuelto loco. Siempre hay un límite superior sensato para cualquier operación.

  3. mstaoru

    Encuentro que Google AI Studio / Dev Platform / como se llame es uno de los peores en esto.

    Cuando acababan de salir los modelos de vídeo, quería hacer un clip corto. Gemini no tenía suficiente control en aquel entonces, así que empecé en Studio. Tenía 10 $ en mi cuenta. Prueba, prueba, prueba, no está bien, reintenta, en total quizá 20-30 reintentos con 4 opciones para un vídeo de 10 segundos.

    Me despierto a la mañana siguiente con un correo de Google: mi cuenta de Studio está congelada por saldo negativo.

    Lo reviso, está en -160 $. No es la ruina financiera, pero es una suma dolorosa por un vídeo de 10 segundos que al final ni siquiera usé.

    No creo que hubiera (ni haya) una configuración ahí que diga "detén todo cuando esté en negativo".

    Casi un año después, sigue igual de mal. Intentando hacer algo de música con Lyria, tengo que esperar 10-12 horas para que el cargo de la API aparezca en mis costes. Ahora ya aprendí la lección amarga, espero después de cada experimento nuevo importante para ver cuánto me costó.

    La programación está resuelta, mis cojones.

  4. hyperhello

    Estas cosas ni siquiera deberían existir sin un contrato negociado.

    Puedo suscribirme a tu servicio por una tarifa específica mensual (digamos 20 $/mes) y asumir el riesgo de perder la tarifa de ese mes si tu servicio o yo cometemos errores, o puedo elegir añadir otros 20 $ a mitad de mes, o lo que sea por comodidad.

    Decir que la computadora "controlará" la facturación y puede descontrolarse me dice que no quiero estar ni cerca de tu montón de incentivos perversos.

  5. brap

    Cuando empecé a trabajar con proveedores de nube fue impactante descubrir que esta función no existe, básicamente en ningún sitio.

    Es algo tan básico que no tenerlo tiene que ser deliberado para hacer que gastes más de lo que querrías sin darte cuenta.

  6. akd

    Los límites estrictos son raros porque las empresas encuentran más rentable perdonar las facturas de individuos que les caen simpáticos mientras se forran con las corporaciones cuyos servicios se han descontrolado.

  7. chrismarlow9

    La saturación de red es difícil. Incluso si apagas el endpoint, todavía puedes saturar la red intermedia. Y sigue siendo ancho de banda.

    De hecho, creo que los disparadores de ACL de red basados en la facturación podrían ser la única forma de aplicar esto de verdad.

    Presencié un ataque DDoS una vez que cambió mi forma de pensar sobre la facturación. Era hardware provisionado localmente y los atacantes habían saturado los switches. Ingenuamente dije "simplemente bloquea los CIDRs", pero el problema era que la RAM entrante estaba tan saturada que ni siquiera podía llegar al punto de "denegar" en el firmware.

    Así que desde un punto de vista técnico, si hay un DDoS interno en AWS, ¿qué haces? ¿Apagas el endpoint? ¿Haces que las fuentes dejen de golpearlo en el router? E incluso eso cuesta dinero. En fin, ese incidente me dio un nivel diferente de aprecio por este desafío.

    Edición: esto va dirigido principalmente a la gente que se queja de por qué tardó tanto. En algún punto de la escala, incluso decirte "no, lo siento" de forma amable es caro. Estoy seguro de que los reclutadores pueden simpatizar con esto hoy en día.

  8. joshdavham

    Es increíble que en 2026, AWS y GCP apenas estén introduciendo esto ahora. Es posiblemente una de las funciones más obviamente necesarias para un proveedor de nube.

    Además, ¿alguien sabe por qué ha tardado tanto? Sospecho que es por una razón técnica. Aunque uno podría ser cínico, dudo que sea una decisión intencional de negocio o producto. Los límites estrictos de gasto son tanto excelentes diferenciadores de producto como posiblemente podrían ahorrar dinero a estos proveedores, ya que no tienen que perdonar a sus usuarios cuando accidentalmente usan en exceso un servicio.

  9. modeless

    Espera, ¿Google Cloud finalmente añadió límites estrictos de gasto por servicio? ¡He querido eso durante tantos años! Vaya que se tomaron su tiempo.

    https://cloud.google.com/blog/topics/cost-management/new-ear...

    Edición: Uf, es falso. Literalmente solo funciona para cuatro servicios aleatorios, no es compatible con todos los demás. Completamente inútil para todos mis proyectos. También es una tontería que el único término admitido sea "mensual", considerando que los meses tienen diferente duración, y que no se molesten en tener en cuenta créditos o descuentos. Quizá la próxima década se dignen a implementar algo útil.

  10. gausswho

    Me pregunto si BigCorp añade límites de gasto porque se hartaron de que los clientes lo resolvieran por su cuenta con tarjetas virtuales.

Más de este día

2026-10-04