跳到正文
arXiv · NLP· Ilia Zaznov·· 8 小时前AI 评分25

因果潜在工作区用于循环 Transformer

Causal Latent Workspaces for Looped Transformers

AI 导读

提出因果潜在工作区 Transformer 架构,通过共享深度块和位置专属潜在槽交换前缀因果摘要。 模型在 101.71M 参数下于 WikiText-103、enwik8 和 TinyStories 语料库上取得最佳平均留出困惑度(分别为 2.7820、2.7843 和 1.6823),性能优于最强非工作区对照模型 0.73% 至 1.06%。

来源:arXiv · NLP · arxiv.org