Pan, el modelo de 4B parámetros que domina Minecraft con objetivos visuales
A General Goal-Conditioned Minecraft Model
Pantograph presenta Pan, un modelo de 4B parámetros entrenado con 500k horas de video de Minecraft para actuar de forma autónoma durante horas. A diferencia de otros enfoques que añaden la orientación a objetivos en una fase posterior, Pan aprende esta habilidad durante el preentrenamiento con video de internet, lo que mejora su capacidad para lograr objetivos complejos y generalizar a entornos nunca vistos. En pruebas, Pan supera ampliamente a STEVE-1 y a un modelo VLA en tareas como construir, usar mecanismos y combatir, mostrando incluso comportamientos de 'reward hacking'.
Si podemos hacer aprendizaje por refuerzo a escala sobre video, quizá podamos producir modelos superhumanos en muchas más áreas a la vez.