跳到正文
arXiv · AI· Ayush Sawarni, Wenqian Xing, Tijana Zrnic, Ramesh Johari, Vasilis Syrgkanis·· 11 天前AI 评分32

AI 智能体因果评估框架: tau-bench Retail 等基准显示干预效果随状态显著变化

Knowing When to Intervene: Causal Evaluation of AI Agents

AI 导读

论文提出首个方法论框架,用于评估随机干预在 AI 智能体轨迹中的动态因果效应。 利用少量随机干预数据估计结构参数,构建了捕捉行动风险的安全排行榜。 应用结果显示干预效果在不同动作和状态下差异显著,揭示了因果推断与智能体评估结合的研究路径。

来源:arXiv · AI · arxiv.org