El mejor modelo de IA de Anthropic no logra atraer usuarios mientras las herramientas más baratas prosperan

Donde Anthropic la cagó fue tratando su monetización de la misma manera que tratan el entrenamiento de modelos. Resulta que el éxito en la experimentación no es transferible.

Han intentado encontrar el máximo que el mercado paga por modelos de última generación; sin embargo, en el lado del consumidor, esto es simplemente demasiado confuso e inquietante:

"Solo puedes usar Fable durante una semana como parte de tu plan"

"¡Prepárate! ¡Tienes que empezar a pagar por token!"

"¡Olvídalo! Lo extendimos un par de semanas más"

"Espera, ahora es hasta la mitad de tu uso"

"Ok, ahora es..."

La mayoría de la gente no quiere preocuparse. Queremos nuestra IA como la electricidad: simplemente ahí, sin importar lo fácil o difícil que sea el suministro. No quieres que tu compañía eléctrica esté a punto de cortarte la luz en cualquier momento.

Eso es Anthropic. No sientes que quieran darte un servicio confiable por un precio, aunque sea premium. Es un juego de regateo constante. Eso obliga a la gente a mirar más allá del jardín amurallado. Ahí encuentran modelos que están bien... y sin las triquiñuelas.

Se han metido en un callejón sin salida. Fable era demasiado bueno y lo regalaron con el plan de $20. Tenía que ser un gran paso desde Opus 4.8 para mostrar progreso, y Opus 4.8 es GENIAL para programar en muchos dominios diferentes.

Pero les está matando el costo de los tokens. Tienen que hacer que la gente pague más por los tokens. Así que pusieron a Fable en el plan de $200 y lanzaron Opus 5. Desconfío de Opus 5. Es mayormente peor que 4.8. Parece que lo nerfearon para crear más distancia entre él y Fable.

Entonces, ¿qué ha hecho la mayoría de nosotros? Nos quedamos en Opus 4.8. Las estadísticas lo confirman. 4.8 sigue dominando.

Ahora están atrapados. Si quitan 4.8, todos se amotinarán. Si hacen que Opus 5.x sea mejor que 4.8, desincentivan a todos a mudarse a Fable y, lo más importante, a pagar más.

Realmente, todo lo que pueden hacer es aceptar la derrota por ahora y dejar que 4.8 sea el pináculo del plan Pro de $20 en el futuro previsible mientras trabajan como locos para hacer que Fable sea TANTO mejor que justifique los $200 hasta el infinito que realmente quieren que todos paguen.

¿Mythos? Eso es solo para corporaciones súper especiales, tú no apliques. ¿Fable? Ni siquiera puedes mirarlo mal sin toparte con bloqueos de ciberseguridad. Y aunque superes eso, está limitado a <50% de uso. Me tomó un mes completar una revisión de Fable en mi proyecto.

Tan tacaños. Incluso con los recientes problemas de uso de OpenAI, siguen siendo mucho mejores que Anthropic, y no es ni gracioso. Volví a ejecutar la revisión de código con Sol como punto de referencia y resulta que el rendimiento de Sol está entre el 70% y el 90% del de Fable. Anthropic todavía tiene el mejor modelo, pero ¿de qué sirve si apenas puedo usarlo?

Nunca recibimos un modelo Haiku actualizado y es una pena. No todo el mundo ni todo necesita conocimiento/razonamiento a nivel de doctorado; de hecho, es muy raro que necesites el nivel de conocimiento/razonamiento de Fable para la gran mayoría de los usuarios...

Vaya, el sentimiento aquí es muy negativo.

Estoy en el plan de $200 (el trabajo paga) y también tengo el plan de OpenAI de $20 (yo pago) y mantengo un saldo en OpenRouter.

No hay nada tan bueno como Fable, ni de lejos.

Recientemente lo hice ejecutar una reconstrucción autónoma de un proyecto de 18 horas (migrando de Spark a Pandas por problemas de compensación entre rendimiento y tamaño de datos).

Orquestó subagentes de Opus impecablemente durante 18 horas. Incluso hizo un gran trabajo gestionando el número de agentes para mantenerlos dentro de los presupuestos de 5 horas (creo que tuve que reiniciarlo dos veces).

Después de 18 horas ejecuté un ciclo de /simplify, /code-review, /simplify que duró otras 6 horas.

2 mil millones de tokens (mezcla de Opus y Fable), 24 horas de codificación continua y un resultado sin errores. Habría costado $2000 a precios de API y valió cada centavo.

La capacidad de Fable para mantener a otros modelos en el camino mientras trabajan en estos objetivos de horizonte largo es mucho mejor que cualquier otra cosa.

Lejos de estar castrado, nunca he tenido un rechazo cibernético, y el inglés de Fable es realmente legible (a diferencia de Opus 5).

Como aparte: aunque odio leer el inglés de Opus 5, sigue siendo un modelo notablemente mejor que Sol en mi experiencia.

Pero podría soportar perder Opus 5 si obtuviera Sol en su lugar. Pero no hay nada ni siquiera cercano a Fable.

Usuario no-LLM por aquí. ¿Por qué? Aparte de los problemas ecológicos, me siento muy incómodo dando las joyas de la corona de mi organización a {corporación_internet_aleatoria}. Mira las medidas que toman para obtener datos de entrenamiento: ¿10M por los registros de llamadas de Spirit? ¿Destruir millones de libros oscuros para escanearlos? Hacen que los adictos a la metanfetamina parezcan escrupulosos.

Tus prompts, especialmente si contienen todo tu código base, son _mucho_ más ricos en datos que una llamada telefónica de aerolínea o una novela de los años 20. Así que _van_ a entrenar con ellos, sin importar cuántas casillas marques para detenerlos. Lo cual es tanto un riesgo comercial como una superficie de ataque nueva y masiva.

No son solo desarrolladores de software; si los bufetes de abogados no controlan _muy_ cuidadosamente los prompts de LLM públicos, pueden esperar algunas demandas jugosas por confidencialidad de clientes. De hecho, cualquier organización en un entorno competitivo debería preocuparse: Acme Bolts: "Escríbeme una presentación para Zoom Construction". Beta Bolts: "¿Acme Bolts está haciendo una propuesta a Zoom Construction?"

Quizás esto es parte de por qué OpenAI y Anthropic están encontrando una demanda más suave de lo que les gustaría. Y por qué los modelos de pesos abiertos que las organizaciones pueden ejecutar en hardware exclusivo están prosperando.

Open router es la respuesta, obtén la inteligencia que necesitas y ten la flexibilidad de no quedar atrapado

Para muchos programadores, incluyéndome, los agentes de codificación basados en LLM funcionan lo suficientemente bien como para ser útiles, y en algunos casos vale la pena pagar por ellos.

Lo que no veo son vastas áreas de la industria encontrando decenas a cientos de miles de millones de dólares de valor en los LLM. No hay un linter o compilador que pueda verificar contratos correctamente construidos. Así que los LLM, que deberían ser útiles para los bufetes de abogados, incurren en mucho más trabajo de revisión manual que los agentes de codificación.

La producción de documentos menos formales en otras industrias probablemente tenga menos estructura. Eso podría no importar en algunos entornos, pero me cuesta pensar en un ejemplo de inmediato.

Los modelos Transformer se están convirtiendo rápidamente en un producto básico, y sospecho que con el tiempo todos los ejecutaremos localmente. Incluso ahora, puedes ejecutar algo bastante útil en una tarjeta gráfica de 16 GB, y sospecho que dentro de una década, el hardware de nivel básico ejecutará mejores modelos de los que las tarjetas gráficas de gama alta pueden ejecutar ahora, a medida que el hardware de nivel básico mejore y los modelos se vuelvan más eficientes.

No significa que los modelos frontera alojados no existan, solo serán raros. No es diferente a cualquier otro mercado de productos básicos, por ejemplo, la mayoría de los autos son modelos básicos baratos, con individuos raros comprando autos de lujo caros y empresas comprando camiones caros y equipo especializado.