跳到正文
热点事件持续更新

DFM 参数化记忆架构提出与实验

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月20日,Rubin Wei等人发布 arXiv 论文,提出 Deep Fusion Memory (DFM) 架构。该机制面向大语言模型,通过块级记忆预测与门控交叉注意力融合外部知识,推理阶段无需在线检索。 在构造训练数据时,DFM 将检索查询量减少 32 倍,检索条目减少 2048 倍,显著降低数据构建负担。模型主干保持冻结,记忆预测与融合模块端到端训练,从而高效引入知识。 实验显示,在 Mistral-7B-v0.3 基座上,DFM 在问答及领域适应任务上较最强基线提升 12.71%,验证了其在无需显式检索情况下增强模型能力的有效性。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. arXiv · NLP
    Deep Fusion Memory:面向大语言模型的块级参数化记忆机制

    提出 Deep Fusion Memory 架构,通过块级记忆预测与门控交叉注意力融合,无需在线检索即可引入外部知识。 该机制在构造训练数据时,检索查询量减少 32 倍,检索条目减少 2048 倍;在 Mistral-7B-v0.3 上较最强基线提升 12.71%。

本事件热度走势

可比范围当前
9
可比范围峰值
1010月20日 13:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。