PRECOCIAL方法：迭代优化合成数据生成

2026年10月20日，Edward Gu等研究者在arXiv发布论文，提出名为PRECOCIAL的新方法。该方法利用大语言模型迭代重写生成程序，旨在自动优化用于合成预训练数据的代码课程，无需人工设计。测试结果显示，在四个语言与代码数据集上，PRECOCIAL比人工设计的课程减少了9-33%的微调步数，并取得了更低的困惑度。此外，优化后的程序具备跨域迁移能力，在四个推理任务中实现了更好的下游性能。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。