跳到正文
热点事件持续更新

发布 MathlibPR 基准

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

研究团队基于 Mathlib4 真实 PR 历史,发布名为 MathlibPR 的基准,用于评估大语言模型在形式化数学库中判断 PR 是否应被合并的能力。 该基准在评估 DeepSeek、Qwen 等模型及 Codex、Claude Code 等 Agent 时发现,它们在区分“可合并”与“仅构建通过”的 PR 时表现不佳。 采用阶段式评估协议后,进一步显示 LLM 难以独立判断 PR 是否值得整合,暴露了其在形式化推理决策上的局限。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv · AI
    MathlibPR 提出形式化数学库 PR 合并结果基准

    summary_zh: 研究团队基于 Mathlib4 真实 PR 历史提出 MathlibPR 基准,用于评估 LLM 辅助形式化推理能力。 DeepSeek、Qwen 等模型与 Codex、Claude Code 等 Agent 在区分可合并与仅构建通过的 PR 时表现不佳,且阶段式评估协议显示 LLM 难以独立判断 PR 是否值得整合。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。