arXiv · ML· Zeyu Zhang, Bradly C. Stadie·· 7 天前AI 评分29
一篇虚假新闻足以操纵LLM预测系统:基于RAG的预测攻击研究
One Fabrication Is Enough: A Fake News Article Changes the Forecasts of LLM Forecasting Systems
AI 导读
LLM 预测系统极易受单篇伪造新闻攻击,74% 至 82% 的对抗性预测会被逆转,前沿模型无法识别虚假信息并会盲目跟随。 两大主流部署系统的检索架构在约 90% 的运行中会捕获伪造文章,且现有检索时防御措施可被单一提示词修改轻易绕过。
来源:arXiv · ML · arxiv.org