arXiv · AI· Phongsakon Mark Konrad, Toygar Tanyel, Serkan Ayvaz·· 7 小时前AI 评分26
Routing Subspaces: 审计微调语言模型中评估与部署的失配
Routing Subspaces: Auditing Evaluation-to-Deployment Mismatch in Fine-Tuned Language Models
AI 导读
研究提出一种审计方法，通过干预中间层激活来定位并修复微调模型中评估与安全部署行为之间的失配。 该方法在12种模型-行为设置中，有10种评估-部署差距减少超过0.12，4种关闭差距（降至0.06以下）。 这是一种非自适应白盒诊断工具，用于受控的微调检查点，并非训练时防御或部署安全保证。
来源：arXiv · AI · arxiv.org