Fable marca el fin del almuerzo gratis en la era de la IA

La mayoría de las cosas en las que trabajo están al menos relacionadas con la seguridad. En algún momento, chatear con Fable lleva inevitablemente a que piense en los aspectos relacionados con la seguridad, activando los salvaguardas. Quizá Fable pueda hacer las mismas cosas mejor que otros modelos, pero tener que andarse con cuidado para evitar activar los salvaguardas hace que GPT 5.6 sea mucho más fácil de usar, hasta el punto de que ya ni me molesto con Fable (o Opus 5).

Hace unos meses, la gente estaba comprensiblemente molesta cuando Microsoft eliminó su modelo de precios por solicitud fuertemente subvencionado porque literalmente estaba quemando dinero. Bueno, estoy aquí para decirte que pase lo que pase entre bastidores en Cursor con esta adquisición de Space-X en marcha, el ajuste Auto está claramente enrutando todas las indicaciones a través de "Cursor Grok 4.6 High" ahora mismo. Esto es un grado de subvención que hace que lo de Microsoft parezca una tontería. Reduje mi suscripción de $200 al mes al nivel de $20 al mes y he procedido a hacer lo que habría pagado unos $1500 por hacer con Opus 4.7 o algo así, que es como se siente Grok 4.6 High en comparación. No tengo nada remotamente parecido a evidencia sólida para respaldar esta estimación más allá de lo que estoy viendo hacer, y todavía tengo alrededor del 10% de mi capacidad mensual de Auto en mi cuenta. Es una locura total. No puedo decir mucho más porque tengo más trabajo pendiente que hacer antes de que alguien entre en razón.

Tengo muy buena experiencia con GLM-5.3. Los límites de suscripción son generosos, la calidad del código es comparable a la versión antigua (buena) de Opus 4.8. Algunas personas informan de problemas con que es lento, pero yo no lo he notado. Uso el arnés OMP (derivado de Pi) y las habilidades de Matt Pocock.

A medida que los modelos suben en la escalera de la inteligencia, muchas tareas comunes alcanzarán rendimientos totalmente decrecientes, y en su lugar simplemente será progresivamente más barato hacer esa tarea. Pero las tareas que la IA es capaz de hacer también se están expandiendo. No estoy seguro de que "algunas tareas no requieren el pico de la frontera" sea algo de lo que preocuparse, desde una perspectiva financiera de la IA.

Leyendo esto como alguien que cambió a ChatGPT después (y en gran parte debido a los cambios realizados en) el lanzamiento de Fable, se lee un poco ingenuo. No solo encuentro que Sol es tan bueno, si no mejor, que Fable, sino que también es más rápido, se comporta mejor y tiene un estilo de escritura mucho más coherente. Tampoco te bajan aleatoriamente a Opus. OpenAI parece estar logrando esto gracias a su asociación con Cerebras, así que no haría comparaciones con la ley de Moore todavía, considerando que parece que apenas estamos empezando en ese departamento. Anthropic podría (y debería) hacer lo mismo. Ciertamente se siente que el desarrollo de modelos está en un punto donde valdría la pena construir silicio de propósito especial para los modelos que tenemos ahora, ya que son lo suficientemente capaces como para seguir siendo útiles incluso cuando/ si se hacen más avances. Si acaso, creo que el problema de Anthropic tiene más que ver con su microgestión de lo que los usuarios pueden hacer con sus modelos; están creando una cantidad indebida de gastos generales para sí mismos al sobrevigilar el uso y las capacidades.

Supongo que la analogía de la ley de Moore es débil. La velocidad de la CPU ha llegado a un límite en ese caso. ¿Qué ha llegado a un límite en el caso de la IA? Las versiones más nuevas de los modelos siguen fluyendo con cada vez más capacidades. Para los usuarios, siento que es más como "el almuerzo gratis ha comenzado", con todos estos impresionantes modelos de pesos abiertos circulando, rompiendo el monopolio de unos pocos grandes.

¿Qué son todas estas tareas de codificación mecánicas que la gente hace y que pueden delegar en modelos inferiores?