LeCun 团队论文证明 Next-token 预测低效，1.09 亿参数模型表征对齐超越 72B LLM

Yann LeCun 团队新论文证明 Next-token 预测在数学上低效，提出基于 JEPA 的训练方法可大幅提升样本效率。实验显示 1.09 亿参数模型在 WIT 基准上超越 72B LLM，对齐分数达 0.184 且仅消耗约 1/42 的训练样本。该架构在 COCO 图像描述任务中实现 0.838 CIDEr 分数，验证了跨模态表征对齐能力。