arXiv · ML· Yichao Fu, Yuxuan Zhang, Minshen Zhang, Ruitian Wang, Junda Chen, Hao Zhang·· 23 小时前AI 评分22
FastAFD:机架级 NVLink 上注意力-FFN 分离何时带来收益
FastAFD: When Does Attention-FFN Disaggregation Pay on Rack-Scale NVLink?
AI 导读
FastAFD 引擎在 GB200 NVL72 上实现 AFD 优势,Qwen3 吞吐量提升 1.17 倍,Qwen3.5 提升 1.16 倍,MiniMax-M2.5 持平宽 EP。
来源:arXiv · ML · arxiv.org