Linum P-JiT - Modelo de texto a imagen entrenado por solo $21K
Show HN: A decent text-to-image model trained for ~$20K (Apache 2.0 Weights)
Linum, un laboratorio de investigación de dos personas, presenta P-JiT, un modelo de difusión de 2B parámetros que genera imágenes a partir de texto con un coste de entrenamiento de solo $21,038. Utiliza una arquitectura Pyramid-JiT sin VAE, con compresión agresiva de tokens y readouts en múltiples resoluciones, logrando una convergencia 11 veces más rápida que su predecesor. Los pesos están disponibles bajo licencia Apache 2.0, y el modelo destaca en escenas detalladas pero tiene limitaciones con texto renderizado y conocimiento del mundo. Es un paso hacia herramientas creativas de animación accesibles.
Nos sorprendió lo buenos que se veían los resultados dada la escala del modelo, así que pensamos en compartirlo con el mundo como un lanzamiento experimental.