arXiv · AI· Matej Gerek, Danylo Zahorulko, Samuel Budai, Chris Rupley, Thierry Donneau-Golencer·· 12 小时前AI 评分25
无执行环境下评估编码智能体的仓库级评估标准
Repository-Grounded Rubrics for Execution-Free Evaluation of Coding Agents
AI 导读
该研究提出一种无执行环境评估方法,在SWE-bench Verified上验证其有效性。 方法让智能体生成加权二元标准,无工具评判员据此对代码补丁打分。平均任务级AUROC为0.826,系统排序与解决率排序的Spearman相关系数达0.968。
来源:arXiv · AI · arxiv.org