Aligned RAG Evaluation 框架评估 RAG 防御
热点事件持续更新
Aligned RAG Evaluation 框架评估 RAG 防御
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Chahana Dahal 和 Zuobin Xiong 提出并发布了 Aligned RAG Evaluation 协议及代码，用于评估 RAG 知识投毒防御机制。 现有 RAG 知识投毒防御主要依赖攻击成功率（ASR）进行评估，但这掩盖了防御本身可能引入的失败及其具体机制。 该协议通过对比匹配查询下的干净响应与投毒响应，区分“被阻止”的攻击与“被引入”的错误。在 HotpotQA 和 Natural Questions 上的实验发现，现有防御会引入意外的目标阳性答案。
AI 根据报道生成 · 52 分钟前更新
最新进展11月2日 13:00
ASR 未揭示的 RAG 风险：Aligned RAG Evaluation 框架揭示 RAG 防御盲点报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv · NLPASR 未揭示的 RAG 风险：Aligned RAG Evaluation 框架揭示 RAG 防御盲点
现有 RAG 知识投毒防御主要依赖攻击成功率（ASR）评估，掩盖了防御本身引入的失败及机制。研究提出 Aligned RAG Evaluation 协议，通过对比匹配查询下的干净与投毒响应，区分“被阻止”的攻击与“被引入”的错误。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。