arXiv · ML· Ziqun Bao, Xinyu Zhang, Yuchen Shao, Chengcheng Wan·· 2026-10-07AI 评分31
有害 SFT 在 LLM 检查点更新中留下可追踪痕迹:TRACE 审计方法
Harmful SFT Leaves a Continuous Trace in LLM Checkpoint Updates
AI 导读
研究指出有害合规 SFT 会在 LLM 检查点更新中诱导连续目标排序,在四个 7-8B 骨干模型上 Spearman 相关系数达 0.986-0.992。 提出的 TRACE 方法仅基于权重即可将未知更新相对于参考原型定位,无需模型查询或访问 SFT 数据,且在分布偏移下保持稳定。 该信号在有害目标比例低时仍有效,可作为行为评估不可用时的互补安全审计手段。
来源:arXiv · ML · arxiv.org