跳到正文
arXiv · NLP· Jimson Huang, Maxwell Nickell, Ruowang Zhang, Abulhair Saparov·· 6 小时前AI 评分37

课程学习提升 LLM 长程隐式推理,Qwen3-0.6B 在 256 lookahead 任务中准确率达 98%

Curriculum Learning Teaches LLMs Long-Horizon Implicit Reasoning, Up To A Limit

AI 导读

课程学习通过逐步增加词汇量和 lookahead 微调 LLM,在相同算力下优于无课程训练;Qwen3-0.6B 在 lookahead 达 256 的问题上准确率从 45% 提升至 98%。

来源:arXiv · NLP · arxiv.org