arXiv · AI· Yunhao Feng, Yifan Ding, Yuxiang Xie, Zheng Li, Mingrui Lao, Zeyuan Wang, Yanming Guo·· 16 小时前AI 评分48
AdaGuard：支持用户自定义策略的自适应护栏模型
AdaGuard: An Adaptive Guard Model with User-defined Policies
AI 导读
研究团队提出 AdaGuard 护栏模型族（含 0.6B、4B 和 8B），可在推理时依据用户自定义策略评估语言模型智能体行为。模型基于自建的 AdaptiveSafety 数据集（10,939 训练样本）和 SafePO 强化学习算法，4B 版本在 AdaptiveSafety 上的二元准确率为 89.30%，在 DynaBench 上为 71.82%。
来源：arXiv · AI · arxiv.org