MoEZip发布：面向MoE LLM的路由感知KV缓存压缩
热点事件持续更新
MoEZip发布：面向MoE LLM的路由感知KV缓存压缩
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月23日，Minsang Kim和Seungjun Baek发布MoEZip论文。该方法针对稀疏混合专家大语言模型，提出路由感知的KV缓存压缩方案，旨在解决长上下文推理中内存瓶颈问题。 在10%的KV保留比率条件下，MoEZip在LongBench基准上较当前最佳基线平均提升24分，在RULER基准上平均提升20分。 该论文已被2026年神经信息处理系统大会（NeurIPS 2026）接收。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 12:00
MoEZip：面向稀疏混合专家大语言模型的路由感知 KV 缓存压缩方法报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- arXiv · MLMoEZip：面向稀疏混合专家大语言模型的路由感知 KV 缓存压缩方法
MoEZip 提出一种路由感知的 KV 缓存压缩方法，针对稀疏 MoE 语言模型在长上下文推理中因 KV 缓存线性增长导致的内存瓶颈，通过结合 Fisher 信息矩阵评估专家路由敏感度，并在保留 10% KV 的条件下，在 LongBench 和 RULER 基准上分别较 SoTA 基线平均提升 +24 和 +20 分，对应得分提升 2.3 倍和 4.9 倍。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。