跳到正文
热点事件持续更新

WebGPU 在 LLM 推理中的调度开销:跨四家 GPU 厂商、三种后端及三种浏览器的系统研究

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

2026年10月28日,arXiv发表了一项关于WebGPU在LLM推理中调度开销的系统研究。该研究针对batch size为1的场景,指出传统基准测试高估了单次操作成本约20倍。研究涵盖四家GPU厂商、三种后端及三种浏览器,确认在调度密集型流水线中,操作开销主导了性能表现,而非内核质量。具体发现包括:在Vulkan上,内核融合可提升53%吞吐量,而CUDA融合无益;在Metal上,不同实现间的性能差距高达2.2倍。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv · ML
    WebGPU 在 LLM 推理中的调度开销:跨四家 GPU 厂商、三种后端及三种浏览器的系统研究

    该研究系统分析了 WebGPU 在 LLM 推理中(batch size 1)的调度开销,指出传统基准测试高估了单次操作成本约 20 倍。 在 Vulkan 上内核融合可提升 53% 吞吐量,而 CUDA 融合无益;在 Metal 上不同实现间的性能差距达 2.2 倍。该研究证实了当前调度密集型流水线中,操作开销主导了性能表现,而非内核质量。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。