arXiv · NLP· Sajib Acharjee Dip, Brian Ouyang, Lala Motlhabi·· 3 天前AI 评分42
SilentGuard:通过不变量感知执行框架保护 LLM 智能体免受静默 API 故障影响
Invariant-Aware Harness Enforcement to Protect LLM Agents from Silent API Failures
AI 导读
研究提出 SilentGuard 框架,将静默 API 故障检测移至工具调用执行层,利用不变量测试拦截违规结果,避免模型幻觉。在 15 个公共研究 API 中发现 11 个存在静默故障,错误计数最高被夸大 691 倍。
来源:arXiv · NLP · arxiv.org