arXiv · NLP· Mehrdad Ghassabi, Audrina Ebrahimi, Sadra Hakim, Hamidreza Baradaran Kashani, Zahra Zojaji, Amin Milani Fard·· 2 天前AI 评分42
当检测不保证抵抗:RAG 中的推理与中毒上下文
When Detection Does Not Guarantee Resistance: Reasoning and Poisoned Context in RAG
AI 导读
DeepSeek-V4-Flash 在启用推理后,中毒防护中的 Cordon Rate 从 0.205 降至 0.075,Leakage Rate 从 0.235 降至 0.140。尽管攻击成功率从 0.233 升至 0.298,且中毒检测率从 0.965 降至 0.665,Qwen3.6-Plus 也呈现出相同的定性模式。结果表明,检测中毒上下文与实际抵御其影响是 RAG 安全中的两个独立维度。
来源:arXiv · NLP · arxiv.org