arXiv · AI· Jiaqi Tian, Ting Long·· 2026-10-12AI 评分30
RGR 缓解 LLM 自我提升中的能力退化
Mitigating Capability Degradation in LLM Self-Improvement via Representation Geometry Regularization
AI 导读
大语言模型在 On-Policy Self-distillation 训练中会出现能力退化现象,表现为早期正确响应的查询变得错误。研究提出 Representation Geometry Regularization 方法,通过鼓励簇内紧凑和簇间分离来保持隐藏表示几何结构。该方法无需改变核心优化流程,能缓解退化并保留能力提升。
来源:arXiv · AI · arxiv.org