跳到正文
腾讯混元·· 2026-09-01精选AI 评分75

腾讯混元 Hy4 preview 发布轻量版,权重压至 214 GB

1.5 TB 压到 214 GB,Hy4 preview 轻量版来了

AI 导读

腾讯混元团队发布 Hy4 preview 轻量版,通过 Sherry 稀疏量化和 MIX-STQ1_0 混合精度策略将模型权重从 1.5 TB 压缩至 214 GB,降低硬件门槛。

推荐理由

原文展示了如何通过稀疏量化与混合精度策略将模型权重压缩至214GB,并验证了异构设备联合推理的可行性。

来源:腾讯混元 · mp.weixin.qq.com