arXiv · AI· Muyao Yuan, Liyan Xu, Weizhan Zhang, Muyan Jiao, Jiangnan Li, Jinchao Zhang, Jie Zhou·· 13 小时前AI 评分42
LoCo 基于局部偏好学习的推理压缩方法
Think Less, Locally: Local Preference Learning for Reasoning Compression
AI 导读
LoCo 通过局部偏好学习优化推理压缩，解决长链式思维导致的高推理成本问题。 采用 DPO 训练状态条件化偏好对，在数学和代码基准上将完成长度减少 23.4% 至 45.4% 并保持精度。 代码和模型将公开发布，展示跨领域通用性。
来源：arXiv · AI · arxiv.org