跳到正文
arXiv · ML· Itamar Trainin, Shauli Ravfogel, Omri Abend, Amir Feder·· 5 小时前AI 评分31

离散扩散模型利用方向不对称性解决前瞻规划任务

Discrete Diffusion Models Exploit Asymmetry to Solve Lookahead Planning Tasks

AI 导读

离散扩散模型通过利用前瞻规划任务中固有的方向不对称性,在图遍历问题上实现了优于自回归模型的训练效率。 研究发现,前向遍历需要复杂的顺序规划,而反向路径具有确定性,非自回归模型据此习得反向解码模式,将高阶前瞻问题简化为一阶过渡序列。 该机制分析揭示了自回归架构在规划能力上的固有局限,并证实了非自回归建模在此类任务中的优势。

来源:arXiv · ML · arxiv.org