arXiv · AI· Yi Zhu, Xiongwei Wu, Qiyi Wang, Tingyu Qu, Jiajun Liu, Sihan Cao, Long Chen, Weigao Sun, Feida Zhu, Yiran Zhong, Steven Hoi·· 14 小时前AI 评分42
MobilePA-Bench: 在复杂现实任务上对移动规划智能体进行基准测试
MobilePA-Bench: Benchmarking Mobile Planner Agents on Complex Real-World Tasks
AI 导读
MobilePA-Bench是一个包含1705个任务和212个移动工具的基准,用于评估移动规划智能体在复杂现实任务中的表现。 该基准结合了统一能力覆盖、证据对齐验证和能力门控评估,并系统性评估了开放和闭源大语言模型,揭示了资源检索和程序合规方面的具体弱点。 研究团队在沙箱中使用在线强化学习训练了一个Qwen3.8-27B基线模型,其性能提升为该环境在规划器开发中的效用提供了初步证据。
来源:arXiv · AI · arxiv.org