IT之家·· 2 天前AI 评分24
寒武纪完成商汤 SenseNova Loop-9B Day 0 适配
寒武纪 Day 0 完成商汤 SenseNova Loop-9B 适配,打通新型循环计算架构推理链路
AI 导读
寒武纪完成商汤 SenseNova Loop-9B 的 Day 0 适配,打通 MLU 平台推理链路。 该模型采用约 9B 参数,通过 56 次层计算扩展深度,4bit 量化后权重约 4.9GB,部署显存需求低至 10GB 内。 寒武纪基于 vllm_mlu 实现适配,复用 Qwen3-Next 算子,优化 mHC 路由性能,降低 Kernel Launch 开销。
来源:IT之家 · ithome.com