arXiv · AI· Vartan Shadarevian, Kia Ghods, Alex Kenich, Anany Kotawala·· 1 天前AI 评分30
GENSTRAT:面向大语言模型策略推理科学的评价系统
GENSTRAT: Toward a Science of Strategic Reasoning in Large Language Models
AI 导读
研究人员提出 GENSTRAT 系统,通过程序化生成双玩家零和不完全信息博弈游戏,解决固定评测集饱和及数据污染问题。该系统基于 5 个复杂度轴度量游戏,构建了包含 12 个前沿及开源模型、逾 4 万局对决的 50 局基准测试。研究发现,更高的思考预算及匹配游戏需求的推理能力,能显著提升 LLM 玩家的胜率。
来源:arXiv · AI · arxiv.org