GLAD缓解检索式事实核查的对抗污染

研究人员发现，在基于检索的事实核查任务中，仅需3.1%至7.4%的训练语料遭受污染，即可导致模型Top-k检索准确率大幅下降最高46.9%。面对此威胁，现有的检索防御手段检测率不稳定甚至崩溃，难以有效应对。 为此，Alamgir Munir Qazi等学者提出了GLAD（Geometric-Lexical Adversarial Defense）方法，通过融合稠密嵌入同伴一致性（peer-coherence）与词汇分布孤立性（distributional isolation）来对抗污染。在LIAR-RAW基准测试中，该方法成功恢复了73%至80%的性能退化。 实验结果证实，在两个基准、两种嵌入模型及五种随机种子下，GLAD实现了70%至86%的最高检测率及最稳定的F1恢复。此外，该方法在未受污染的语料库上仅带来可忽略的成本开销，展现了良好的鲁棒性与实用性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。