Los modelos pequeños ya están aquí: la IA barata que transforma las apps de consumo
Small Models Have Arrived
Calvin French-Owen, cofundador de Segment, explora cómo los modelos de IA pequeños y rápidos, como gpt-5.6-luna y GLM 5.3, están reduciendo drásticamente los costos de inferencia. Con ejemplos prácticos, muestra que tareas que antes costaban ~$1 ahora cuestan ~$0.10, lo que hace viable económicamente añadir IA a aplicaciones de consumo. También analiza el impacto en el mundo empresarial, donde la mayoría del trabajo es 'token spewer' (responder rápido y avanzar en muchos frentes), y predice un auge en la demanda de modelos 'rápidos, baratos y suficientemente buenos'.
La demanda de modelos 'rápidos, baratos y suficientemente buenos' está a punto de despegar.