Hugging Face Blog·· 2025-06-23AI 评分51
SGLang 集成 Transformers 后端实现高效推理
Transformers backend integration in SGLang
AI 导读
SGLang 新增 Hugging Face transformers 后端集成,支持以 impl="transformers" 参数运行任何兼容 transformers 的模型并自动回退,无需原生支持即可通过 RadixAttention 获得优化推理性能。
来源:Hugging Face Blog · huggingface.co