arXiv · AI· Amil Khan, Anantajit Subrahmanya, B. S. Manjunath·· 9 小时前AI 评分21
PACK3D 引入解耦内存布局与几何的 3D 注意力算子
Geometry Matters in Packed 3D Attention
AI 导读
PACK3D 分离内存布局与注意力几何,解决 3D 体积打包后的几何编码失效问题,通过轴向 RoPE 保持空间可解释性。 在 Allen WTC-11 数据集上,PACK3D 优于参数匹配的 3D U-Net,Triton 实现支持 65k tokens 长程上下文。 该研究已被 NeurIPS 2026 接收为 Poster。
来源:arXiv · AI · arxiv.org