P-JiT - Text-to-image модель, обученная за $21K с открытыми весами Apache 2.0
Show HN: A decent text-to-image model trained for ~$20K (Apache 2.0 Weights)
Linum, небольшая исследовательская лаборатория из двух человек, представила экспериментальную text-to-image модель P-JiT (Pyramid-JiT) с 2B параметров, обученную всего за $21 038. Благодаря отказу от VAE и работе напрямую в пиксельном пространстве модель достигает 32×32 сжатия токенов — в 4 раза агрессивнее, чем у FLUX-2, что резко снижает стоимость обучения и инференса. Веса доступны под лицензией Apache 2.0. Модель отлично справляется с базовыми объектами и сценами, но пока не умеет генерировать текст и слабее в сложных многофигурных композициях. Это proof-of-concept на пути к собственным генеративным видео-моделям.
Мы сами удивились, насколько хорошими получились результаты при таком размере модели, поэтому решили поделиться ими со всем миром как экспериментальный релиз.