PolyGraph提出计划缓冲CUDA图机制

PolyGraph团队发布论文，提出计划缓冲机制解决自适应推测解码问题。该机制通过捕获一个最大网格图并在重放前向GPU内存写入28字节活跃形状数据，使自定义内核跳过超界瓦片，保持图拓扑固定。 研究团队指出，该机制确立了有界工作形状边界，而非生产服务系统，且证据仅限于单GPU合成跟踪。在NVIDIA H800上，原型以Qwen2.5-3B维度将64个形状特定图替换为一个，展示了初步效果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。