JANUS框架发布

2026年10月23日，arXiv 平台上线由 Yuan Xiong 等人提出的 JANUS 长时程智能体安全框架。该框架旨在解决智能体在长序列任务中的潜在风险，区别于传统的内容审查，其核心思路是预防操作层面的失败。 JANUS 框架通过多智能体模拟合成轨迹生成数据，并采用 CoAA-RL 联合优化算法训练模型。该算法同时针对“预期风险”与“安全裁决”两个任务进行优化，使模型能够从部分轨迹中预测延迟发生的风险，从而提前介入干预。 基于 JANUS 框架训练的守卫模型 Vanguard 在四个基准测试中表现优异。数据显示，Vanguard 相比基线模型，平均保护率提升了 15.9 个百分点，同时在良性任务上的完成率也增加了 5.1 个百分点，证明了该框架在保障安全的同时未显著影响正常任务效率。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。