跳到正文
arXiv · AI· Austin Tsai, Saurav Nanda, Ganapathy Parthasarathy, Bhuvnesh Kumar, Parivesh Choudhary·· 8 小时前AI 评分36

Direct Nash Optimization 对齐语言模型通用偏好:基于 Llama 与 Mistral 的实证研究

Aligning Language Models with General Preferences: An Empirical Study of Direct Nash Optimization

AI 导读

Direct Nash Optimization (DNO) 实证研究在 Llama 3.1 8B Instruct 和 Mistral 7B Instruct 上验证了 DNO-Prct 算法的有效性。 AlpacaEval 2.0 显示 Llama LC 胜率从 31.7% 升至 45.3%,Mistral 从 6.8% 升至 18.4%;使用同家族开源标注器可保留 62%-82% 性能增益。

来源:arXiv · AI · arxiv.org