arXiv · AI· Jiayi Kuang, Yinghui Li, Yunze Song, Keyu Chen, Zhifeng Shen, Yangning Li, Yidong Wang, Di Yin, Ruizhi Qiao, Xing Sun, Kai Jin, Ying Shen, Liang Lin, Philip S. Yu·· 16 小时前AI 评分39
从原子级到智能体级:面向 LLMs 智能体数学能力的可解释过程级评测框架
From Atomic to Agentic: Towards Interpretable Evaluation of LLMs' Agentic Mathematical Capabilities
AI 导读
针对现有数学基准仅评估最终答案的局限,该研究提出一个过程级评测框架,将智能体解题行为与可复用的数学原子能力分类体系对齐。 该框架设计了涵盖文本与多模态的规划、行动及反馈任务,并通过受控 LLM 重写生成轨迹与细粒度标注,揭示端到端准确率相近的模型在智能体能力上存在显著差异。 该研究强调过程级评测对解读 LLMs 真实潜力及指导下一代数学智能体开发的关键作用。
来源:arXiv · AI · arxiv.org