美团技术团队·2026-10-15 15:32· 2026-10-15AI 评分40美团 SLM 推理引擎:低延迟下有效吞吐优化SLM 生成式高并发推理引擎:延迟约束下的有效吞吐优化AI 导读美团技术团队发布专为小参数量语言模型(SLM)设计的生成式高并发推理引擎,通过静态 DAG 架构与 AOTInductor 编译,在平均端到端时延低于 20ms 的约束下,实现 Prefill-only 有效 MFU 达 67%。来源:美团技术团队 · tech.meituan.com千问 Qwen推理能力部署工程论文研究#论文/研究#推理#部署/工程查看事件全部后续