arXiv · ML· Burak Topcu, Musa Cim, Zuhal Ozturk, Mahmut Taylan Kandemir·· 2026-10-14AI 评分26
解析地理分布式 LLM 服务中碳 SLO 的矛盾
Dissecting the Carbon-SLO Tension in Geo-Distributed LLM Serving
AI 导读
研究构建了基于硬件测量的地理分布式 LLM 推理模拟器,评估不同调度器在严格 SLO 下的碳减排效果。 测试了四种调度器,包括基于 MILP 的设施级调度方案。该方案在三种 LLM 下最多实现 60% 碳减排,SLO 违约率平均为 3%。 减排效果随电网碳强度空间分布差异增大而提升,随系统负载增加而下降,且依赖调度器获取负载更新的频率。
来源:arXiv · ML · arxiv.org