跳到正文
arXiv · AI· Yue Zhao, Zixiang Xu, Angela Huyue Zhang, S. Alex Yang, Xiyang Hu·· 2026-10-14AI 评分28

agent-risk: AI 智能体变更的风险评估方法

agent-risk: Risk Assessment for Changes to AI Agents

AI 导读

agent-risk 框架通过重放日志和保存状态评估 AI 智能体变更风险。 在 bash 沙箱中,7,200 集日志无法独立决定重试门禁,需重放受阻episode以减少 50% 智能体调用。 审批需预先设计证据,包括日志字段、保存状态和目标重放。

来源:arXiv · AI · arxiv.org