arXiv · NLP· Zhongyin Wang, Zhaoqian Xue, Junting Mu, Haozheng Liu, Ye Yuan, Haolun Wu, Lingyao Li·· 4 小时前AI 评分30
评估 Jev 在预算限制下作为 System-1 决策模型读取截断推理的表现
Truncated Reasoning Under a Budget: Evaluating System-1 Models as Decision-makers
AI 导读
研究评估 Jev 在 500 至 16,000 token 预算下读取截断推理的准确性，其在 1,500 token 预算下总体准确率较强制作答提升 4.1 pp，截断问题提升 8.6 pp。 离线重放策略节省 71.3% 估算成本，准确率仅损失 0.58 pp，显示 System-1 决策模型可辅助降低 LLM 推理成本。
来源：arXiv · NLP · arxiv.org