跳到正文
热点事件持续更新

HISA提出分层索引替代线性扫描

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

HISA研究团队提出分层索引稀疏注意力方法,用于替代DeepSeek DSA中的线性扫描机制。该方案将搜索路径改写为块级粗筛与token级精筛的两阶段流程,实现细粒度稀疏注意力的优化。 HISA定位为即插即用方案,无需额外训练即可部署。该方法保留下游Sparse MLA的token级top-sparse模式,维持原有模型的稀疏注意力处理能力与运行特性。

AI 根据报道生成 · 59 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv · AI
    HISA 实现高效层级索引,优化细粒度稀疏注意力

    提出 HISA 层级索引器替代 DeepSeek DSA 中的线性扫描,将搜索路径改写为块级粗筛与 token 级精筛的两阶段流程。该方案为即插即用,无需额外训练,保留了下游 Sparse MLA 的 token 级 top-sparse 模式。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。