arXiv发布LLM查询路由提升数据中心电力灵活性研究
热点事件持续更新
arXiv发布LLM查询路由提升数据中心电力灵活性研究
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年11月3日，Shivam Patel等人在arXiv发布论文《Creating Power Flexibility in Datacenters via Query Routing》。研究提出通过查询路由动态分配LLM推理任务，在保障服务的同时实现电力需求灵活性，验证误差为2.8%。框架涵盖1B至70B参数模型及四个GPU平台，在10,000块H100集群模拟中实现最高16%的电力灵活性，响应时间约10秒。结果显示查询路由是数据中心电力调度的有效机制，可应用于更广泛的规划与编排。
AI 根据报道生成 · 1 小时前更新
最新进展11月4日 13:00
数据中心通过查询路由实现电力灵活性报道时间线
沿着报道，了解事件的不同侧面。
11月4日
- arXiv · AI数据中心通过查询路由实现电力灵活性
该研究通过查询路由动态分配 LLM 推理任务，在保障服务的同时提供电力需求灵活性，验证误差为 2.8%。 框架涵盖 1B 至 70B 参数模型及四个 GPU 平台，在 10,000 块 H100 集群模拟中实现最高 16% 的电力灵活性，响应时间约 10 秒。 结果显示查询路由是数据中心电力调度的有效机制，框架可应用于更广泛的规划与编排。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。