跳到正文
arXiv · AI· Chao Shang, Wanyu Du, Yi Zhang, Sandesh Swamy·· 29 天前AI 评分35

AgentPolicyForge:从可执行环境到策略基准与自适应防护

AgentPolicyForge: From Executable Environments to Policy Benchmarks and Adaptive Guards

AI 导读

AgentPolicyForge 框架利用可执行环境构建策略基准并迭代训练策略防护模型,生成涵盖 10 个策略家族的 PolicyGym 数据集,包含 698 个训练场景和 254 个人工复核测试场景。 防护模型通过环境验证的平衡样本进行微调,最终配置在 PolicyGym 上实现攻击成功率相对降低 40-44%,且良性拒绝率低于单纯的策略提示方法。

来源:arXiv · AI · arxiv.org