跳到正文
arXiv · ML· Alan Baade, Kyle Sargent, Vincent Sitzmann, Eric Ryan Chan, Justin Johnson, Li Fei-Fei, Gordon Wetzstein·· 2026-10-15AI 评分40

生成式表示学习用于可扩展的潜在 Token 化

Generative Representation Learning for Scalable Latent Tokenization

AI 导读

引入基于点互信息分解的自监督表示学习方法作为生成建模 Tokenizer,获得 FID-50K 2.18。 该方法是计算最优改进,在 ImageNet 上比 DINOv2 少 7 倍 FLOPs,GPIC 上比 WebSSL 少 8 倍 FLOPs。 首次分析 Tokenizer 与生成模型结合 FLOP 效率,验证了可扩展性。

来源:arXiv · ML · arxiv.org