arXiv · ML· Vakul Raghavan, Utkarsh Grover, Mingyang Mao, Chengwen Wang, Xiaomin Lin·· 2026-10-12AI 评分21
Double-Take 改进双向记忆在长上下文中的容量、绑定与选择性
Double-Take: Improving Capacity, Binding, and Selectivity In Long-Context Within Bidirectional Memory
AI 导读
Double-Take (DT) 通过多步更新和交叉位置混合修复长上下文中的干扰与绑定失败,仅用 32kb 基因组上下文训练即达成性能突破。 DT 在 131kb 时 AUROC 达 0.927,在接近 1Mb 时达 0.856,并实现从人类到小鼠的零样本迁移。 结果证实容量、绑定和选择性是可用长程记忆的三个核心必要条件。
来源:arXiv · ML · arxiv.org