跳到正文
arXiv · ML· Zishuo Bao, Zeshen Zhang, Linkun Chen, Yucheng Lu·· 15 小时前AI 评分33

FlyWheel 专为 TPU 打造的 Attention 内核

FlyWheel: Attention Kernels Built for the TPU

AI 导读

FlyWheel 是一种面向 TPU 的高性能 Attention 内核集合,支持 softmax 和 Gated DeltaNet,并已在 TPU v6e 和 v7x 上实现。

来源:arXiv · ML · arxiv.org