跳到正文
arXiv · AI· Marcus Armstrong, Navid Ayoobi, Pradham Mummaleti, Alexander Chulzhanov, Arjun Mukherjee·· 10 天前AI 评分33

可解释性工具并非模型特定:残差流映射实现跨模型迁移

Interpretability Is Not Model-Specific

AI 导读

研究通过基于无标签提示的残差流映射,成功将拒绝方向及读入工具在 5 个模型族、110 对模型间进行迁移。 迁移效果受映射拟合数据影响:使用普通问题时恢复率较低,增加特定区域无标签提示后,拒绝引导恢复率达 102%。 线性覆盖分数可预测迁移成功率,该机制证明可解释性结论能以极少的无标签提示在模型间复用。

来源:arXiv · AI · arxiv.org