arXiv · NLP· Jimson Huang, Maxwell Nickell, Ruowang Zhang, Abulhair Saparov·· 6 小时前AI 评分37
课程学习提升 LLM 长程隐式推理,Qwen3-0.6B 在 256 lookahead 任务中准确率达 98%
Curriculum Learning Teaches LLMs Long-Horizon Implicit Reasoning, Up To A Limit
AI 导读
课程学习通过逐步增加词汇量和 lookahead 微调 LLM,在相同算力下优于无课程训练;Qwen3-0.6B 在 lookahead 达 256 的问题上准确率从 45% 提升至 98%。
来源:arXiv · NLP · arxiv.org