美团正式开源 1.6 万亿参数 LongCat-2.5:多模态模型在国产算力上实现高效推理
美团正式以 MIT 协议开源 LongCat-2.5,该原生多模态模型总参数 1.6 万亿、每个 token 激活约 480 亿参数并支持一百万上下文,面向长程智能体任务在代码开发、Visual Coding 与专业办公场景中端到端交付能力明显提升。
推荐理由:原文详细披露了1.6万亿参数多模态模型在国产算力下的W4A4量化策略与训练细节,展示了在显存受限场景下落地万亿模型的具体工程路径。
美团正式以 MIT 协议开源 LongCat-2.5,该原生多模态模型总参数 1.6 万亿、每个 token 激活约 480 亿参数并支持一百万上下文,面向长程智能体任务在代码开发、Visual Coding 与专业办公场景中端到端交付能力明显提升。
推荐理由:原文详细披露了1.6万亿参数多模态模型在国产算力下的W4A4量化策略与训练细节,展示了在显存受限场景下落地万亿模型的具体工程路径。
MiniMax 开源了 MiniMax M3.1 Flash 模型权重,总参数 428B、激活参数 23B。上线 72 小时内真实用户处理 Token 超过 100 万亿。该模型通过全模型稀疏注意力、量化感知训练(QAT)和 Power-aware scheduling 提升了推理效率,并与多家国内外芯片厂商及云服务平台、开源社区完成了首日接入。
推荐理由:M3.1 Flash 上线 72 小时处理 Token 超过 100 万亿,展示了模型的高吞吐与广泛的芯片/云平台生态适配能力。
VAST 发布了世界模型研究项目 Project Eden 的阶段性成果 EdenLive,并全面开源了不同尺寸规格的模型权重、推理代码及技术报告。在单张 Nvidia RTX 5090、5B 参数模型、720P 配置下,EdenLive 的实时帧率超过 24 FPS,端到端延迟在百毫秒量级。
推荐理由:EdenLive 实现实时生成式渲染并开源了 5B 参数模型及代码,为交互式游戏和动画提供了状态与视觉解耦的新技术路径。
蚂蚁百灵正式开源 Ling-3.1-flash,该模型总参数量约 560B、单 Token 激活约 25B,支持最高 1M 上下文窗口。通过 MXFP4 量化与 Hopper GPU 优化,服务部署可由 8 卡降至 4 卡,平均首 Token 时间约 604 毫秒。
推荐理由:文章给出了 560B 参数模型的量化部署指标与多场景评测排名,读者可据此评估私有化接入成本与能力边界。
阶跃星辰开放 Step 5 Preview 的 BF16 与 FP8 权重,上线 Hugging Face 和 ModelScope,支持 100 万 token 上下文窗口,可通过 vLLM 或 SGLang 部署。
推荐理由:原文提供了 Step 5 Preview 在国内外多家国产 AI 芯片上的 0Day 适配实例与推理部署链路,可供读者评估该模型的落地可用性。
Qwen 团队开展两项生产级实验:Qwen3.8-Max 自主完成 NoC 模块的 RTL 编码与物理实现,并独立将 Qwen3.8-Flash-Next 适配至真武 M890 芯片。芯片设计中,模型运行超 60 小时完成全流程,使模块面积降低 42%、功耗降低 59.5%。推理适配中,模型 56 小时完成优化,长文本 TTFT 降低 47%,单实例吞吐提升 96%。
推荐理由:展示了 Qwen 在芯片设计端侧与推理端侧双向闭环中自主调用工具完成 RTL 优化及推理栈调优的工程路径。
腾讯混元团队发布 Hy4 preview 轻量版,通过 Sherry 稀疏量化和 MIX-STQ1_0 混合精度策略将模型权重从 1.5 TB 压缩至 214 GB,降低硬件门槛。
推荐理由:原文展示了如何通过稀疏量化与混合精度策略将模型权重压缩至214GB,并验证了异构设备联合推理的可行性。
小米 MiMo-V2.5 系列 API 宣布永久降价,新定价最高降幅达 99%,且不再区分上下文窗口长度;Token Plan 计费体系优化使可用用量提升至原来的 5-8 倍。
推荐理由:宣布 MiMo-V2.5 系列 API 大幅降价及 Token Plan 用量扩容,揭示 SGLang HiCache 推理优化支撑成本降低。
Google 发布名为 Gemma 的 4 个开源 LLM 模型,其中 7B 参数版本采用 6T token 预训练,8K context 下得分 63.75。Hugging Face 提供 transformers 4.38 集成支持,并说明使用 QLoRA 在单张 A10G GPU 上微调 gemma-7b 需约 9 小时。
推荐理由:Hugging Face 给出了 Gemma 与同级模型的基准对比,以及消费级 GPU 微调实践入口。