跳到正文
arXiv · ML· Xucheng Yu, Haibo Jin, Huimin Zeng, Haohan Wang·· 6 小时前AI 评分30

SCI-Defense:检测生成式引擎中基于 LLM 排名的说服结构化操纵

SCI-Defense: Detecting Persuasion-Structured Manipulation of LLM-Based Ranking in Generative Engines

AI 导读

summary_zh: SCI-Defense 通过评分五种说服结构检测 LLM 排名中的操纵攻击,误报率为 1.2%。 在 1,152 个攻击样本中,框架成功拦截 96.1% 使目标进入前三的攻击。

来源:arXiv · ML · arxiv.org