Enseñando a un modelo del mundo a jugar Pokémon
Teaching a World Model to Play Pokemon
El autor entrena un modelo del mundo basado en la arquitectura JEPA (LeWorldModel) para jugar Pokémon Red en un emulador. El objetivo: seleccionar un Pokémon inicial desde una partida guardada en el laboratorio del Professor Oak. El modelo aprende a predecir transiciones en un espacio latente, evitando el colapso mediante SIGReg, y planifica secuencias de botones. A pesar de los contratiempos, logra elegir a Squirtle.
En el peor caso, el encoder empieza a aprender a incrustar cada captura de pantalla como el mismo embedding c. Entonces, el predictor también comienza a aprender a predecir que el siguiente embedding será c. Esto se llama colapso latente y significa que el modelo ha encontrado una forma trivial de reducir la función de pérdida: colapsando todos los embeddings al mismo embedding.