腾讯混元·· 2026-09-01精选AI 评分75
腾讯混元 Hy4 preview 发布轻量版,权重压至 214 GB
1.5 TB 压到 214 GB,Hy4 preview 轻量版来了
AI 导读
腾讯混元团队发布 Hy4 preview 轻量版,通过 Sherry 稀疏量化和 MIX-STQ1_0 混合精度策略将模型权重从 1.5 TB 压缩至 214 GB,降低硬件门槛。
推荐理由
原文展示了如何通过稀疏量化与混合精度策略将模型权重压缩至214GB,并验证了异构设备联合推理的可行性。
来源:腾讯混元 · mp.weixin.qq.com