arXiv · ML· Asher Labovich·· 14 天前AI 评分22
循环 Transformer 稳定性与泛化性分析框架
Stability and Generalization in Looped Transformers
AI 导读
该研究提出基于不动点的分析框架,以评估循环 Transformer 的测试时计算扩展能力。 理论上证明无召回循环网络无法实现强输入依赖,而带外归一化的召回网络能产生稳定的局部吸引子。 实验在围棋、数独和前缀和任务中验证了该框架的预测,结果被 NeurIPS 2026 主会场接收。
来源:arXiv · ML · arxiv.org