跳到正文
热点事件持续更新

DTS: 基于 Delta 的瓦片评分用于高效长上下文稀疏注意力

1 篇报道1 个报道来源16 小时前更新

先了解这件事

AI 综述

2026年11月20日,arXiv 发布了一手研究报告,提出名为 DTS 的基于 Delta 的瓦片评分方法。该技术专为解决长上下文场景下稀疏注意力效率问题而设计。 DTS 方法的核心优势在于免训练特性,其通过特定的瓦片评分机制,显著提升了长序列处理的效率与速度。 实验数据显示,在 LLaMA-3.1-8B-Instruct 模型上,DTS 在 128K 上下文长度下将评分延迟降低了 38%,表现优异。 当上下文长度进一步扩展至 512K 时,DTS 技术的预填充速度实现了 3.3 倍的提升,证明了其在极端长文本处理中的有效性。

AI 根据报道生成 · 13 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv · ML
    DTS: 基于 Delta 的瓦片评分用于高效长上下文稀疏注意力

    summary_zh: DTS 提出了一种免训练的稀疏块注意力瓦片评分方法,在 LLaMA-3.1-8B-Instruct 上表现优异。 其在 128K 上下文下评分延迟降低 38%,512K 时预填充速度提升 3.3 倍。

本事件热度走势

可比范围当前
6
可比范围峰值
911月20日 16:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。