跳到正文
热点事件持续更新

Dual DeltaNet 模型论文发布

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

Yixiao Qian 等人发布 Dual DeltaNet (DDN) 研究论文,该模型提出双侧 delta 规则以扩展 Kimi Delta Attention,实现值侧记忆重组。 在语言建模、零样本下游任务和检索任务中,DDN 表现优于 KDA、GDN-2 和 Mamba-3。该方法包含分块并行训练算法及 rank-2 递归推理机制以提升算术强度,代码已开源。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. arXiv · ML
    Dual DeltaNet:面向线性注意力值侧记忆重组的方法

    Dual DeltaNet 提出双侧 delta 规则,扩展 Kimi Delta Attention (KDA) 以实现值侧记忆重组,在语言建模、零样本下游任务和检索任务中表现优于 KDA、GDN-2 和 Mamba-3。 该方法包含分块并行训练算法及 rank-2 递归推理机制,以提升算术强度,代码已开源。

本事件热度走势

可比范围当前
8
可比范围峰值
910月30日 17:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。