arXiv · NLP· Julien Delaunay·· 10 天前AI 评分28
Jev 风格 System 1 决策模型的可解释性与扰动审计研究
Can the Confidence and Decisions of System 1 Models Be Trusted? An Explainability and Perturbation Audit of Jev-Style Decision Models
AI 导读
研究对 Jev 风格 System 1 模型进行审计,发现 4B 及以上模型在语义扰动下校准更优且推理速度更快。 测试涵盖 E-SNLI、HANS 等基准,4B 以上模型在提示词注入防御中 AUROC 达 0.988 至 0.998,单次推理使 XAI 交互耗时缩短至 1.3-3.2 秒。
来源:arXiv · NLP · arxiv.org