跳到正文
热点事件持续更新

权重循环Transformer机制研究论文发表

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

Magnus Sesodia等人于2026年10月16日在arXiv发布论文《Inside the Loop: A Mechanistic Study of Weight-Tied Transformers on Depth-Bound Algorithmic Tasks》，该论文已被NeurIPS 2026接收。研究聚焦于权重循环Transformer在深度受限算法任务上的机制，通过迭代复用层块扩展有效深度。 实验结果表明，4层块迭代8次的循环模型在所有随机种子下均成功解决多层级联步骤任务，而同等有效深度的非循环模型仅通过低学习率或中间层监督才成功。代码已公开。

AI 根据报道生成 · 4 小时前更新

最新进展10月20日 12:00
权重循环 Transformer 在深度受限算法任务上的机制研究

报道时间线

沿着报道，了解事件的不同侧面。

10月20日
  1. arXiv · NLP
    权重循环 Transformer 在深度受限算法任务上的机制研究

    权重循环 Transformer 通过迭代复用层块扩展有效深度，解决多层级联步骤任务。 实验表明，4 层块迭代 8 次的循环模型在所有随机种子下均成功，而同等有效深度的非循环模型仅通过低学习率或中间层监督才成功。

本事件热度走势

可比范围当前
9
可比范围峰值
910月20日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。