arXiv · ML· Ding Jia, Wei Liu, Xianglong Du, Yingjie Li, Yingqing Yang, Huili Yu, Zhangsong Zhan, Chu Zhou·· 7 小时前AI 评分38
PROACT-Agent：面向实时安全的渐进式运行时监控与主动熔断框架
PROACT-Agent: Progressive Runtime Oversight and Active Circuit-breaking for Real-Time Safety
AI 导读
PROACT-Agent 框架通过合成高保真轨迹实现实时护栏，其训练模型在不安全类别检测上取得 91.46% F1 分数。 框架包含渐进式轨迹展开、推理增强因果修正及文化感知数据本地化模块，并构建了含 155,780 个状态的双语基准 PROACT-Bench。 在 AgentDojo 评测中，该护栏将非 DoS 定向攻击成功率从 20.82% 降至 0.40%。
来源：arXiv · ML · arxiv.org