arXiv · AI· Seyedarmin Azizi, Erfan Baghaei Potraghloo, Massoud Pedram·· 2026-10-09AI 评分38
带类型决策模型作为智能体护栏易受单字攻击影响
One Word Opens the Gate: The Option-Channel Attack on Typed Decision Models as Agent Guardrails
AI 导读
评估发现 7 个开源权重模型在筛选提示注入等任务中,允许或阻止决策的准确率仅在 36% 至 72% 之间波动。 在智能体工具调用测试中,仅 6 行无关日志文本即可将特定策略的 fail-open 率从 0% 提升至 63%,若选项名称具有误导性,该比率可升至 93% 至 100%。 研究指出,这些模型无法作为独立决策组件,确定性规则在所有策略上可达 100% 准确率。
来源:arXiv · AI · arxiv.org