arXiv · ML· Rithik Sharma, Reese Levine, Zheyuan Chen, Ananthajit Srikanth, Yanwen Xu, Tyler Sorensen·· 2026-10-14AI 评分22
GPU Goldmines:用于边缘 LLM 推理的可调 WebGPU 内核框架
GPU Goldmines: Tunable WebGPU Kernels for Edge LLM Inference
AI 导读
研究团队提出 GPU Goldmines 框架,实现 WebGPU 内核在边缘 LLM 推理中的自动调优。 该框架针对 LLM 核心模块构建了矩阵乘法、矩阵向量乘法和 Flash Attention 内核。
来源:arXiv · ML · arxiv.org