arXiv · AI· Rhea Sanjay Sukthanker, Pashmina Cameron·2026-11-02 13:00· 4 小时前AI 评分26

循环训练模型何时值回推理算力：Qwen3 系列小模型研究

There Is No Free Loop: When Does Looping a Trained Model Pay for Its Inference Compute?

AI 导读

研究对比循环模型与无循环基线，指出其仅在 0.8B 小模型上胜出资本效率。实验覆盖 Qwen3 和 Qwen3.5 系列 0.8B 至 9B 参数，发现 4B 和 9B 模型中循环版本未超过同参数量无循环模型。表明预训练后添加循环仅对固定参数预算的小模型具有成本效益。

来源：arXiv · AI · arxiv.org