arXiv · NLP· Giovana Kerche Bon\'as, Thales Sales Almeida, Marcelo da Silva Reis, Rodrigo Nogueira, Marcos Meideiros Raimundo·· 2026-10-16AI 评分31
PRISM: 工具调用语言模型中激活干预的迁移与局限
PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models
AI 导读
研究提出 PRISM 框架,评估激活干预在精度、语言和规模上的迁移能力。 利用 NF4 量化副本的行为标签可稳定估计干预,五语 NF4 监督方向迁移至阿拉伯语,使 Llama-3.1-8B 不安全违规减少 21.95 个百分点。 方法可迁移至 70B 参数模型,揭示压缩模型辅助监督能缓解工具调用中的安全漏洞。
来源:arXiv · NLP · arxiv.org