arXiv · AI· Stephen Obadinma, Xiaodan Zhu·· 4 天前AI 评分28
利用对抗攻击揭示 LLM 规划器中符号词汇漏洞
Adversarially Attacking Symbolic Vocabulary Vulnerabilities In LLM Planners
AI 导读
研究提出名为 Symbolic Swapper 的 LLM 对抗攻击框架,生成混淆符号词汇的规划域以测试大语言模型的规划能力。 该攻击能降低基础模型及稳健规划框架 70% 以上的规划性能,揭示了模型在领域理解与纯规划执行间的显著差距。 这项发表于 NeurIPS 2026 的工作表明,即便具备常识线索,LLM 在严格符号规划任务中仍缺乏鲁棒性。
来源:arXiv · AI · arxiv.org