arXiv · NLP· Chahana Dahal, Zuobin Xiong·· 2 小时前AI 评分23
ASR 未揭示的 RAG 风险：Aligned RAG Evaluation 框架揭示 RAG 防御盲点
Prevented is Not Protected: What Attack Success Rate Hides about RAG
AI 导读
现有 RAG 知识投毒防御主要依赖攻击成功率（ASR）评估，掩盖了防御本身引入的失败及机制。研究提出 Aligned RAG Evaluation 协议，通过对比匹配查询下的干净与投毒响应，区分“被阻止”的攻击与“被引入”的错误。
来源：arXiv · NLP · arxiv.org