跳到正文
arXiv · AI· Chong Zeng, Ziqian Zhong, Kexun Zhang, Ivan Bercovich, Ivgeni Segal, Yuzhen Mao, Shashwat Saxena, Aditi Raghunathan·· 2026-10-14AI 评分37

可扩展的弱到强验证器加固:自动防御智能体环境奖励黑客攻击

Scalable Weak-to-Strong Verifier Hardening for Agent Environments

AI 导读

提出可扩展全自动弱到强验证器加固方法,利用黑客修复循环在 Terminal Bench、KernelBench 和 SETA 上显著降低攻击成功率。 方法包含隔离验证器沙箱和迭代式漏洞修复,随着加固预算增加,防御强度优于静态基线。 早期版本已被官方 Terminal Bench 仓库采用,用于审计环境中的利用漏洞。

来源:arXiv · AI · arxiv.org