跳到正文
arXiv · ML· Rithik Sharma, Reese Levine, Zheyuan Chen, Ananthajit Srikanth, Yanwen Xu, Tyler Sorensen·· 2026-10-14AI 评分22

GPU Goldmines:用于边缘 LLM 推理的可调 WebGPU 内核框架

GPU Goldmines: Tunable WebGPU Kernels for Edge LLM Inference

AI 导读

研究团队提出 GPU Goldmines 框架,实现 WebGPU 内核在边缘 LLM 推理中的自动调优。 该框架针对 LLM 核心模块构建了矩阵乘法、矩阵向量乘法和 Flash Attention 内核。

来源:arXiv · ML · arxiv.org