跳到正文
arXiv · AI· Param Biyani, Krishnamurthy Dvijotham·· 2026-10-08AI 评分40

SpecGuard:在智能体作弊前证明任务存在冲突

SpecGuard: Proving a Task Is Broken Before the Agent Cheats

AI 导读

SpecGuard 自动将任务意图形式化为 Lean 4 规范,独立形式化测试以检测冲突。 在 SWE-bench 冲突任务中检测率达 72.8%,形式化认证率达 51.1%,冲突漏检率比模型判断低近 5 倍。 作为执行前安全检查,SpecGuard 能在智能体行为发生前识别奖励黑客风险。

来源:arXiv · AI · arxiv.org