arXiv · AI· Xueqi Ma, Yanbei Jiang, Xingjun Ma, James Bailey, Sarah M. Erfani·· 7 小时前AI 评分35
基于LLM价值定位的多值对齐方法
Towards Multi-Value Alignment via Value Localization in LLMs
AI 导读
研究通过定位LLM中的价值敏感注意力头(value heads),提出推理时激活引导策略,无需更新参数即可实现对多个价值观或风格偏好的可控对齐。 该框架揭示了不同价值维度间的功能特化及冲突,并通过目标头消融实验验证了其因果重要性。
来源:arXiv · AI · arxiv.org