Pete Warden: la IA local ya no es un compromiso, es una amenaza para la nube
Why AI Wants to Be Local – With Pete Warden (Creator of Moonshine Voice)

Pete Warden, co-creador de Moonshine Voice, sostiene que los modelos de pesos abiertos están a solo unos meses de los comerciales y que la verdadera barrera es la usabilidad, no la calidad. Con cuantización, un modelo de 9.000 millones de parámetros cabe en una GPU de 4 GB, y un Mac Studio de 256 GB puede ejecutar cientos de miles de millones. La falta de un modelo de suscripción frena su marketing, pero Warden anticipa que, como Apache frente a los servidores web caros, la IA local acabará imponiéndose.
Creo que la mayor barrera es la usabilidad. Si miras los benchmarks, ya no es una cuestión de calidad del modelo.