Liquid AI 发布低延迟推理引擎 RIPL

Liquid AI 宣布推出低延迟推理引擎 RIPL（Real-time Inference Pipeline），专为 Liquid 基础模型（LFMs）设计，旨在直接处理实时请求，在持续峰值流量下实现端到端低于 50 毫秒的完整响应。测试数据显示，LFM2.5-1.2B 在 RIPL 上的 p95 延迟比 Qwen3.5-0.8B 在 vLLM 上低 14.4 至 28.4 倍。 该引擎现已面向企业开放，支持在 NVIDIA GPU（如 H100、H200、B200 或 RTX PRO 6000）上部署 Liquid 基础模型。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。