跳到正文
arXiv · ML· Taha Entesari, Jingyu Zhang, Daniel Khashabi, Mahyar Fazlyab·· 3 天前AI 评分37

MISVO:语言模型的最微创引导优化方法

Minimally Invasive Steering of Language Models

AI 导读

研究人员提出 MISVO(最微创引导向量优化)方法,通过优化冻结 LLM 隐藏状态的加性干预实现测试时对齐,利用局部 KL 几何推导的二次正则项控制输出分布偏离。

来源:arXiv · ML · arxiv.org