跳到正文
arXiv · AI· Shivam Adarsh, Hetianyu Huang, Lau Safin, Maria Maistro, Christina Lioma·· 18 天前AI 评分38

Activation Steering 如何引发 LLM 话语维度变化及干预方法

When Steering Shifts Discourse: Identifying and Intervening on Discourse-Level Changes due to Activation Steering in LLMs

AI 导读

研究发现 Activation Steering 会系统性改变 LLM 生成文本的话语维度,如正式程度和模糊性。 作者提出通过添加互补向量进行干预,该方法恢复了约 78% 的意外话语变化,同时在约 93% 的生成中保留预期行为。

来源:arXiv · AI · arxiv.org