跳到正文
arXiv · AI· Austin Jia, Avaneesh Ramesh, Zain Shamsi, Daniel Zhang, Alex Liu·· 17 天前AI 评分26

AuthRank:通过评分源可信度抵御 CTI LLM 管道中的投毒攻击

AuthRank: Scoring Source Credibility to Counter Poisoning in CTI LLM Pipelines

AI 导读

研究人员提出 AuthRank,一种基于引文网络计算的可信度评分方法,用于提升处理网络威胁情报的 LLM 管道在投毒攻击下的鲁棒性。该方法结合 PageRank 算法,利用显式引用、LLM 推断引用和主张级蕴含构建引文网络,并引入时间衰减与作者可信度增强机制。在 MS MARCO 数据集上的实验表明,该方法在存在投毒的情况下能显著提高处理精度,并在 CTI 文档和源数据流上实现了概念验证。

来源:arXiv · AI · arxiv.org