跳到正文
Hugging Face Blog·· 2025-06-23AI 评分51

SGLang 集成 Transformers 后端实现高效推理

Transformers backend integration in SGLang

AI 导读

SGLang 新增 Hugging Face transformers 后端集成,支持以 impl="transformers" 参数运行任何兼容 transformers 的模型并自动回退,无需原生支持即可通过 RadixAttention 获得优化推理性能。

来源:Hugging Face Blog · huggingface.co