arXiv · AI· Ankur Garg, Xuemin Yu, Hassan Sajjad, Samira Ebrahimi Kahou·· 2026-10-14AI 评分30
TRACE框架利用时间风险评估与概念编辑提升LLM生成安全性
TRACE: Temporal Risk Assessment and Concept Editing for Safer Language Generation
AI 导读
TRACE框架通过追踪生成期间的有害风险、选择性编辑token激活并留下可审计记录,在五个对比中提升streaming F1分数。 该框架学习激活模式码本,利用GRU预测危害性,将有害概念沿良性方向引导,在WildGuard和S-Eval基准上保持竞争力。 事后审计揭示出可解释的语义结构,选择性引导在显著降低Harmbench攻击成功率的同时,极少改变原本安全回复的拒绝行为。
来源:arXiv · AI · arxiv.org