跳到正文
arXiv · AI· Xueqi Ma, Yanbei Jiang, Xingjun Ma, James Bailey, Sarah M. Erfani·· 7 小时前AI 评分35

基于LLM价值定位的多值对齐方法

Towards Multi-Value Alignment via Value Localization in LLMs

AI 导读

研究通过定位LLM中的价值敏感注意力头(value heads),提出推理时激活引导策略,无需更新参数即可实现对多个价值观或风格偏好的可控对齐。 该框架揭示了不同价值维度间的功能特化及冲突,并通过目标头消融实验验证了其因果重要性。

来源:arXiv · AI · arxiv.org