arXiv · ML· Zishuo Bao, Zeshen Zhang, Linkun Chen, Yucheng Lu·· 15 小时前AI 评分33
FlyWheel 专为 TPU 打造的 Attention 内核
FlyWheel: Attention Kernels Built for the TPU
AI 导读
FlyWheel 是一种面向 TPU 的高性能 Attention 内核集合,支持 softmax 和 Gated DeltaNet,并已在 TPU v6e 和 v7x 上实现。
来源:arXiv · ML · arxiv.org