跳到正文
热点事件持续更新

arXiv发布因果潜在工作区循环Transformer架构

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

2026年10月19日,研究人员在arXiv平台上发布论文,正式提出一种名为“因果潜在工作区”的循环Transformer架构。该架构采用锚定式四轮共享深度设计,每个位置通过向与前缀特定的潜在槽写入门控向量,并检索基于内容的摘要,实现前缀因果摘要的交换。 模型总参数量约为1.0171亿。在WikiText-103、enwik8和TinyStories语料库上,该架构取得了最佳平均留出困惑度,数值分别为2.7820、2.7843和1.6823。评测结果显示,该模型性能优于最强非工作区对照模型,相对提升幅度在0.73%至1.06%之间。

AI 根据报道生成 · 6 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. arXiv · NLP
    因果潜在工作区用于循环 Transformer

    提出因果潜在工作区 Transformer 架构,通过共享深度块和位置专属潜在槽交换前缀因果摘要。 模型在 101.71M 参数下于 WikiText-103、enwik8 和 TinyStories 语料库上取得最佳平均留出困惑度(分别为 2.7820、2.7843 和 1.6823),性能优于最强非工作区对照模型 0.73% 至 1.06%。

本事件热度走势

可比范围当前
8
可比范围峰值
1010月19日 13:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。