arXiv · ML· Sina Barazandeh, Benjamin E. Lundell, Jose Lugo-Martinez·· 10 天前AI 评分29
截止时间如何改变 LLM 推理价值的测量
Late but Valuable: Why Deadlines Change the Measured Value of LLM Reasoning
AI 导读
研究发现截止时间改变 LLM 推理价值的测量方式。 在 1200 次决策复盘中,迟到的思考模式答案价值约为准时答案的 5 倍;按时率与平均价值乘积高估优势 0.0241。 Qwen3-8B 单卡实验中,并发请求从 8 增至 56,45 秒截止时间下的完成率从 79.2% 降至 1.4%。
来源:arXiv · ML · arxiv.org