跳到正文
arXiv · NLP· Mehrdad Ghassabi, Audrina Ebrahimi, Sadra Hakim, Hamidreza Baradaran Kashani, Zahra Zojaji, Amin Milani Fard·· 18 天前AI 评分28

Gemma-3-12b 在 RAG 语境下重复投毒段落引发顺从偏差

Illusory Truth or Salient Anomaly? Model-Dependent Responses to Repeated Poisoned Passages in RAG-Style Contexts

AI 导读

Gemma-3-12b 在 RAG 环境中检测误报的能力随投毒文档数量增加而显著下降。 在 200 个 SciFact 问题上,当 6 个相互一致的投毒文档与 1 个健康文档对比时,模型检测率从 25%(少数投毒)降至 10%(多数投毒)。McNemar 检验显示 34 个案例从检测转为未检测,证实了模型对多数投毒证据存在类似顺从的偏差。

来源:arXiv · NLP · arxiv.org