arXiv · NLP· Houcheng Jiang, Boxuan Zhang, Qiyong Zhong, Junfeng Fang, Xiang Wang, Xiangnan He·· 9 小时前AI 评分33
RePolicy：学习为 Agent 安全防护选择并应用安全策略
RePolicy: Learning to Select and Apply Safety Policies for Agent Safeguards
AI 导读
RePolicy-4B 提出了一种联合学习策略选择和安全评估的 Agent 安全防护方法，在六项基准中取得了领先的安全检测性能。 该方法通过随机化策略顺序和干扰项来减少捷径学习，并构建了包含 20,000 多条轨迹的 PolicyTraj-20K 数据集进行训练。 研究结果表明，安全防护系统能够自主学习判断 Agent 行为时应使用的具体安全要求。
来源：arXiv · NLP · arxiv.org