arXiv · AI· Shivam Adarsh, Hetianyu Huang, Lau Safin, Maria Maistro, Christina Lioma·· 18 天前AI 评分38
Activation Steering 如何引发 LLM 话语维度变化及干预方法
When Steering Shifts Discourse: Identifying and Intervening on Discourse-Level Changes due to Activation Steering in LLMs
AI 导读
研究发现 Activation Steering 会系统性改变 LLM 生成文本的话语维度,如正式程度和模糊性。 作者提出通过添加互补向量进行干预,该方法恢复了约 78% 的意外话语变化,同时在约 93% 的生成中保留预期行为。
来源:arXiv · AI · arxiv.org