WebGPU 在 LLM 推理中的调度开销:跨四家 GPU 厂商、三种后端及三种浏览器的系统研究
热点事件持续更新
WebGPU 在 LLM 推理中的调度开销:跨四家 GPU 厂商、三种后端及三种浏览器的系统研究
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
2026年10月28日,arXiv发表了一项关于WebGPU在LLM推理中调度开销的系统研究。该研究针对batch size为1的场景,指出传统基准测试高估了单次操作成本约20倍。研究涵盖四家GPU厂商、三种后端及三种浏览器,确认在调度密集型流水线中,操作开销主导了性能表现,而非内核质量。具体发现包括:在Vulkan上,内核融合可提升53%吞吐量,而CUDA融合无益;在Metal上,不同实现间的性能差距高达2.2倍。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 12:00
WebGPU 在 LLM 推理中的调度开销:跨四家 GPU 厂商、三种后端及三种浏览器的系统研究报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv · MLWebGPU 在 LLM 推理中的调度开销:跨四家 GPU 厂商、三种后端及三种浏览器的系统研究
该研究系统分析了 WebGPU 在 LLM 推理中(batch size 1)的调度开销,指出传统基准测试高估了单次操作成本约 20 倍。 在 Vulkan 上内核融合可提升 53% 吞吐量,而 CUDA 融合无益;在 Metal 上不同实现间的性能差距达 2.2 倍。该研究证实了当前调度密集型流水线中,操作开销主导了性能表现,而非内核质量。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。