arXiv · AI· Yuxin Mao, Zhen Qin, Jinxing Zhou, Hui Deng, Xuyang Shen, Bin Fan, Jing Zhang, Yiran Zhong, Yuchao Dai·· 17 天前AI 评分21
线性复杂度自回归图像生成:空间感知衰减视角 (LASAD)
Autoregressive Image Generation with Linear Complexity: A Spatial-Aware Decay Perspective
AI 导读
提出 Linear Attention with Spatial-Aware Decay (LASAD) 机制,解决 1D 序列局部性无法反映 2D 空间局部性导致的质量退化问题。 LASADGen 基于该机制,在 ImageNet 实验中相比线性注意力基线提升生成质量,同时相比 Transformer 模型降低推理成本和显存占用。
来源:arXiv · AI · arxiv.org