HTAM框架利用LLM优化GPU算子

研究人员Yining Zhang等提出HTAM（层次化转移注意力记忆）框架，旨在利用大语言模型自动优化GPU算子。该研究已在EMNLP 2026会议上作为Oral论文正式发布。 HTAM框架通过构建层级转换图（HTG），将粗粒度的全局方向与细粒度的局部策略相结合，以引导LLM生成具体的CUDA代码。 在KernelBench基准测试中，HTAM展现出优于基线模型的代码正确性与加速效果，验证了该分层记忆方法在算子优化任务中的有效性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。