arXiv · NLP· Yongyuan Li, Yang Xu·· 2026-10-14AI 评分35
基于均匀信息密度的偏好优化算法 UIDPO
Uniform Information Density-Based Preference Optimization
AI 导读
研究人员提出基于均匀信息密度理论的偏好优化算法 UIDPO。该算法结合全局标准差和局部二阶差分构建信息均匀性指标,并将其整合进偏好优化目标。在 AlpacaEval2、ArenaHard 和 MT-Bench 上,UIDPO 取得了与 SimPO 相当或更好的性能。 语言学的细微偏好有助于提升大语言模型的人类对齐效果,代码库已公开。
来源:arXiv · NLP · arxiv.org