arXiv · ML· Achref Jaziri, Martin Mundt, Ahmed Imtiaz Humayun, Visvanthan Ramesh·· 17 天前AI 评分33
扩散模型记忆盆地的光谱特征与几何表征
Spectral Signatures of Memorization Basins in Diffusion Trajectories
AI 导读
该论文提出了针对条件、无条件及 rectified-flow 扩散模型的记忆盆地几何表征,发现局部函数几何频谱中主导奇异模态出现及光谱急剧恢复是进入记忆盆地的特征。 研究通过作用于主导模态在训练期间抑制记忆,并开发方法在推理时识别和引导轨迹避开记忆盆地。 这些几何感知引导方法即使在低维几何近似下也保持有效,并证明可扩展至大规模文生图扩散模型。
来源:arXiv · ML · arxiv.org