JEPA 证明：好视图比规模更重要

Proving and Improving the Platonic Representation Hypothesis with JEPAs

不同模态训练的模型能否收敛到同一世界表示？Platonic Representation Hypothesis 曾只是一个猜想，如今已被证明为定理。研究发现，只要使用 Joint-Embedding Predictive Architectures（JEPAs）并配合“好视图”（good views），不同模态的编码器就能自动对齐，而无需海量数据。相比之下，传统的 next-token prediction 依赖的是“坏视图”，导致语言模型与视觉模型的对齐效率极低。实验显示，使用好视图的训练样本需求仅为 next-token prediction 的 1/42，且一个 1.09 亿参数的文本 JEPA 在对齐效果上超越了高达 720 亿参数的语言模型。这项研究揭示了构建通用表示的关键杠杆并非单纯的规模，而是视图的质量。