arXiv · AI· Yutong Zhi, Jie Zhang, Xiuqi Lu, Jiayuan Xu, Jing Shao·· 2026-10-14AI 评分48
TRAP: 探索 LLM 智能体中工具结果重放攻击对错误绑定的探测
TRAP: Tool-result Replay Attack for Probing Misbinding in LLM Agents
AI 导读
TRAP 框架通过 ReplayBench 基准测试,利用受控的工具结果重放,系统评估 LLM 智能体中的工具结果错误绑定问题,在 8 个 LLM 和 3 个智能体框架下,跨任务重放的平均最终状态错误率为 0.649,且错误主要源于模型侧的动作生成。
来源:arXiv · AI · arxiv.org