arXiv · ML· Youngjae Cho, Jongsuk Kim, Ji-Hoon Kim·· 5 小时前AI 评分32
GAPO:通过几何锚定增强 DPO 鲁棒偏好对齐
Learning Where It Matters: Geometric Anchoring for Robust Preference Alignment
AI 导读
提出几何锚定偏好优化(GAPO),用对抗局部扰动替代静态参考策略,在保持标准基准性能的同时提升鲁棒性。 GAPO 引入锚点间隙(Anchor Gap)进行自适应加权,在平滑性条件下近似最坏情况局部边际退化。 该方法已获 NeurIPS 2026 接受。
来源:arXiv · ML · arxiv.org