跳到正文
arXiv · AI· Byonggon Chun·· 9 小时前AI 评分35

LLM 多智能体循环在 FuriosaAI RNGD NPU 上优化 Gemma-4-12B 解码内核

A Case Study of a Multi-Agent Kernel-Optimization Loop That Learns a New AI Accelerator

AI 导读

针对前沿 LLM 在稀缺 NPU 上准确率崩溃的问题,该研究在 FuriosaAI RNGD NPU 上运行 LLM 多智能体循环,12 天内优化 3 个 Gemma-4-12B 解码内核。

来源:arXiv · AI · arxiv.org