arXiv · NLP· Yujia Zheng, Tianhao Li, Shangzhi Xu, Yuekai Huang, Ziyou Jiang, Zhaoyang Li, Yuyao Ge, Junran Peng, Mingyang Li·· 4 小时前AI 评分41
CoSA：真实世界 LLM 智能体生态系统中的技能冲突攻击
CoSA: The Conflict of Skills Attack in Real-World LLM Agent Ecosystems
AI 导读
论文提出技能冲突攻击（CoSA），通过在智能体技能池中添加少量本地技能，将策略违规率从 35.02% 提升至 58.45%。 实验基于 CoSA-Bench 的 288 个任务，使用 5% 的技能增加量即可引发跨技能依赖导致的合规失败，无需修改现有权限。 开发的分层防护机制可将 OpenClaw 招聘任务中的违规率从 65.28% 降至 6.67%，且不影响合规任务完成率。
来源：arXiv · NLP · arxiv.org