arXiv · AI· Zhengxu Yu, Ke Xu, Meng Fang, Haitham Ammar, Weilin Luo, Jun Wang·· 7 天前AI 评分38
HDM 混合决策模型通过零或T次思考机制与 CDPO 强化学习策略提升推理效率
The Value of Thinking: Learning When to Reason in Hybrid Decision Models
AI 导读
HDM 提出零或 T 次思考范式,使用单一冻结骨干网络和轻量级自路由块,仅在思考价值超过阈值 lambda 时运行 T 次 token 的全自回归推理。 在 JevBench 上,HDM-4B 取得 0.857 分,优于 Jev 的 0.851 分,中位延迟从 0.652 秒降至 0.179 秒;在 MiniWoB 上,HDM-27B 降低 80.1% 的 token 成本。
来源:arXiv · AI · arxiv.org