热点事件持续更新

硬件感知多目标结构化剪枝框架优化LLM

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

该研究提出一种硬件感知的多目标结构化剪枝框架，旨在同时优化LLM的时延与模型尺寸。新方法在37.5%和50%剪枝率下，其常识推理任务性能优于现有方法，并显著降低推理成本。方法采用两阶段策略：粗粒度阶段移除整个Attention和MLP块，细粒度阶段通过并行贝叶斯优化在时延约束下搜索最佳逐层剪枝比例。

AI 根据报道生成 · 2 小时前更新

最新进展10月20日 12:00

面向时延与模型尺寸优化的 LLM 多目标结构化剪枝

报道时间线

沿着报道，了解事件的不同侧面。

10月20日

12:00
arXiv · NLP
面向时延与模型尺寸优化的 LLM 多目标结构化剪枝
该研究提出一种硬件感知的多目标结构化剪枝框架，在 37.5% 和 50% 剪枝率下，其常识推理任务性能优于现有方法，同时显著降低推理成本。该方法采用两阶段策略：粗粒度阶段移除整个 Attention 和 MLP 块，细粒度阶段通过并行贝叶斯优化在时延约束下搜索最佳逐层剪枝比例。

本事件热度走势

可比范围当前: 9
可比范围峰值: 910月20日 15:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。