跳到正文
热点事件持续更新

Kobayashi 团队提出免训练稀疏注意力方法

1 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

2026 年 11 月 4 日,arXiv 发布由 Kobayashi 等提出的 Coarse Semantic Blocks 方法。这是一种免训练稀疏注意力技术,核心机制是构建针对特定 prompt 的 key 索引,并将非连续的 token 聚类为“粗语义块”。该方法旨在同时加速大语言模型的 prefill 和 decoding 两个阶段。研究团队在单块 NVIDIA H200 显卡上,针对 Qwen3.5-4B 和 35B-A3B 两种混合模型进行了评估,以验证该方法的加速效果。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv · AI
    免训练稀疏注意力方法:利用粗语义块加速 LLM 推理

    提出一种免训练稀疏注意力方法,通过构建 prompt-specific key index 并聚类非连续 token 为粗语义块,同时加速 prefill 和 decoding。

本事件热度走势

可比范围当前
7
可比范围峰值
811月4日 23:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。