跳到正文
arXiv · AI· Matej Gerek, Danylo Zahorulko, Samuel Budai, Chris Rupley, Thierry Donneau-Golencer·· 12 小时前AI 评分25

无执行环境下评估编码智能体的仓库级评估标准

Repository-Grounded Rubrics for Execution-Free Evaluation of Coding Agents

AI 导读

该研究提出一种无执行环境评估方法,在SWE-bench Verified上验证其有效性。 方法让智能体生成加权二元标准,无工具评判员据此对代码补丁打分。平均任务级AUROC为0.826,系统排序与解决率排序的Spearman相关系数达0.968。

来源:arXiv · AI · arxiv.org