arXiv · ML· Yi Jing, Zao Dai, Jinwu Hu, Zijun Yao, Lei Hou, Juanzi Li, Xiaozhi Wang·· 23 小时前AI 评分23
SAERL利用稀疏自编码器（SAE）特征空间重组LLM强化学习数据工程。
Teach the Way It Thinks: Guiding LLM Post-training Data Engineering with Sparse Autoencoders
AI 导读
该方法通过识别模型功能区域，实现由易到难、单区域聚焦的训练策略。 在Qwen2.5-Math-1.5B上，SAERL使GRPO平均准确率提升3.1%，训练步数减少42%。
来源：arXiv · ML · arxiv.org