跳到正文
arXiv · ML· Min-Young Yu·· 2026-10-15AI 评分49

Policy-Verified Self-Training: 从可验证策略奖励中学习代理合规性

Policy-Verified Self-Training: Learning Agent Compliance from Verifiable Policy Rewards

AI 导读

提出Policy-Verified Self-Training范式,利用运行时策略验证器将合规轨迹转化为偏好优化奖励。在AgentDojo提示注入任务中,Qwen3-8B违规率从37.2%降至10.3%,成功攻击率从12.4%降至0.5%。无需强教师模型或人工标签,保留验证器干预率从39.2%降至8.8%。

来源:arXiv · ML · arxiv.org