arXiv · NLP· Ilia Zaznov·· 8 小时前AI 评分25
因果潜在工作区用于循环 Transformer
Causal Latent Workspaces for Looped Transformers
AI 导读
提出因果潜在工作区 Transformer 架构,通过共享深度块和位置专属潜在槽交换前缀因果摘要。 模型在 101.71M 参数下于 WikiText-103、enwik8 和 TinyStories 语料库上取得最佳平均留出困惑度(分别为 2.7820、2.7843 和 1.6823),性能优于最强非工作区对照模型 0.73% 至 1.06%。
来源:arXiv · NLP · arxiv.org