跳到正文
arXiv · NLP· Julien Delaunay·· 10 天前AI 评分28

Jev 风格 System 1 决策模型的可解释性与扰动审计研究

Can the Confidence and Decisions of System 1 Models Be Trusted? An Explainability and Perturbation Audit of Jev-Style Decision Models

AI 导读

研究对 Jev 风格 System 1 模型进行审计,发现 4B 及以上模型在语义扰动下校准更优且推理速度更快。 测试涵盖 E-SNLI、HANS 等基准,4B 以上模型在提示词注入防御中 AUROC 达 0.988 至 0.998,单次推理使 XAI 交互耗时缩短至 1.3-3.2 秒。

来源:arXiv · NLP · arxiv.org