arXiv · ML· Yukiya Horiba, Hakaze Cho, Takahiro Yakoh·· 4 小时前AI 评分26
任务向量可线性分解为可解释且可控的组件
Task Vectors Can Be Linearly Decomposed into Interpretable and Controllable Components
AI 导读
研究发现任务向量（TVs）并非原子化方向，可基于任务识别（TR）和学习（TL）分解为功能组件，优化后的干预效果优于原始 TV。 在多模型和分类任务中，TR/TL 搜索比随机搜索更可靠，尤其对指令型 TV 效果显著，各组件在 logit 层面产生符合功能的独立效应。 结果表明 TVs 可分解为支持解释与控制的有意义组件。
来源：arXiv · ML · arxiv.org