DMR动态混合精度路由框架发布
热点事件持续更新
DMR动态混合精度路由框架发布
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
2026年11月3日，Yuanzhe Li等人在arXiv cs.AI板块发布论文，正式提出动态混合精度路由（DMR）框架。该框架旨在解决多步大语言模型交互中的效率与精度平衡问题，通过设计一个轻量级路由器，在交互决策过程中自适应地在高精度与低精度LLM版本之间进行切换。 DMR框架的核心机制基于全空间因子化联合预测，用于预判步骤的发散程度及结果影响，从而实现路由决策。在技术实现上，框架复用了共享的高精度KV cache，使得每步的路由额外开销控制在1毫秒以内。整个方案无需对底层基础模型进行微调，保持了原始模型的通用性。 实验结果显示，采用DMR框架在保持任务成功率相当的前提下，实现了平均2.44倍的解码加速。在资源消耗方面，相较于FP16精度，该框架平均降低了39%的内存占用，显著提升了模型在实际应用中的部署效率与性价比。
AI 根据报道生成 · 1 小时前更新
最新进展11月3日 13:00
DMR 框架：面向高效多步 LLM 交互的动态混合精度路由报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- arXiv · AIDMR 框架：面向高效多步 LLM 交互的动态混合精度路由
提出动态混合精度路由框架 DMR，通过轻量级路由器在交互步骤间自适应选择高精度或低精度 LLM，实现平均 2.44x 解码加速且任务成功率相当。 DMR 基于全空间因子化联合预测步骤发散及结果影响，复用共享高精度 KV cache，每步路由开销小于 1ms，平均降低 39% 内存占用。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。