arXiv · ML· Grigoriy Evseev, Vladimir Solodkin, Dmitry Bylinkin, Daniil Medyakov, Vladimir Aletov, Aleksandr Beznosikov·· 29 天前AI 评分38
WRDO:对齐语言模型中的加权拒答方向优化
WRDO: Weighted Refusal Direction Optimization in Aligned Language Models
AI 导读
论文提出加权拒答方向优化(WRDO),通过构建学习聚合权重的复合拒答方向,增强对齐大语言模型的拒答干预效果。 WRDO在三个开放权重语言模型上评估,使用HarmBench作为外部评测器,结果显示加权聚合比单一方向方法更有效且灵活。
来源:arXiv · ML · arxiv.org