跳到正文
arXiv · NLP· Kaiser Sun, Yongchan Kwon, Zain Hasan, Shang Zhu, Kaitlyn Zhou, Federico Bianchi·· 3 小时前AI 评分42

选择何种推理力度?LLM 智能体中推理力度的经济学分析

What Effort Level Should I Choose? On the Economics of Reasoning Effort in LLM Agents

AI 导读

研究测量了专有与开源模型在四个基准上的推理力度反事实效应,发现最高力度比最低力度昂贵达 42 倍,且高力度并未保证更高的实例级准确率。 推理力度属于“信念商品”,用户无法评估计算边际价值;高力度常导致智能体验证更重、搜索更多而轨迹变长,未必改变最终结果。 盲目选择最高力度既低效又无性能保证;从低力度开始并在验证失败后升级的策略,以更低成本匹配或优于固定最高力度表现。

来源:arXiv · NLP · arxiv.org