微软发布MXCode向量量化框架支持FP4推理
热点事件持续更新
微软发布MXCode向量量化框架支持FP4推理
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
研究团队提出MXCode框架，结合矢量量化与MicroXcaling原生FP4计算，实现约2比特权重存储。该框架旨在将超低比特VQ压缩与MX原生FP4计算相结合。 该方法通过PostScale、PreScale及PreScale+策略进行优化。在Qwen3(235B)等模型上验证后，于GB300硬件下使模型加载内存降低约50%。
AI 根据报道生成 · 2 小时前更新
最新进展11月3日 13:00
MXCode: 面向大规模 MX 原生推理的矢量量化方法报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- arXiv · MLMXCode: 面向大规模 MX 原生推理的矢量量化方法
研究团队提出 MXCode 框架，结合矢量量化与 MicroXcaling 原生 FP4 计算，实现约 2 比特权重存储。 该方法通过 PostScale、PreScale 及 PreScale+ 策略，在 Qwen3 (235B) 等模型上验证，GB300 硬件下模型加载内存降低约 50%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。