跳到正文
arXiv · ML· Grigoriy Evseev, Vladimir Solodkin, Dmitry Bylinkin, Daniil Medyakov, Vladimir Aletov, Aleksandr Beznosikov·· 29 天前AI 评分38

WRDO:对齐语言模型中的加权拒答方向优化

WRDO: Weighted Refusal Direction Optimization in Aligned Language Models

AI 导读

论文提出加权拒答方向优化(WRDO),通过构建学习聚合权重的复合拒答方向,增强对齐大语言模型的拒答干预效果。 WRDO在三个开放权重语言模型上评估,使用HarmBench作为外部评测器,结果显示加权聚合比单一方向方法更有效且灵活。

来源:arXiv · ML · arxiv.org