WIDE框架：Token级动态宽度剪枝提升LLM推理效率
热点事件持续更新
WIDE框架：Token级动态宽度剪枝提升LLM推理效率
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
WIDE框架结合Token级动态宽度剪枝与GPU内核协同设计，旨在提升自适应LLM推理效率。 在50%路由稀疏度下，Llama3.1-8B模型准确率较动态基线提升20.26分；Qwen3-14B经LoRA微调后保留了97.6%的生成性能。 该框架实现了预填充阶段最高1.68倍、解码阶段1.55倍的端到端加速，相关代码已开源。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 12:00
WIDE：通过 Token 级动态宽度剪枝提升自适应 LLM 推理效率报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- arXiv · NLPWIDE：通过 Token 级动态宽度剪枝提升自适应 LLM 推理效率
WIDE 框架结合 Token 级动态宽度剪枝与 GPU 内核协同设计，显著提升 LLM 推理效率。 在 50% 路由稀疏度下，Llama3.1-8B 准确率较动态基线提升 20.26 分；Qwen3-14B 经 LoRA 微调后保留 97.6% 生成性能。 实现预填充最高 1.68 倍、解码 1.55 倍的端到端加速，代码已开源。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。