Dengjie Li等提出SoCo框架,优化LLM压缩
热点事件持续更新
Dengjie Li等提出SoCo框架,优化LLM压缩
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
2026年10月19日,arXiv预印本平台发布了一篇由Dengjie Li等人提交的论文,正式提出了名为SoCo(Singular spectrum optimization)的大语言模型压缩框架。该研究旨在解决传统LLM压缩方法在精度保持方面的挑战,提出了一种新的数据驱动思路,通过可学习的机制对奇异值分解(SVD)中的成分进行优化,从而提升模型压缩后的表现。该方法的核心在于引入了一个可学习的对角矩阵,用于对SVD分解后的奇异谱进行动态重缩放。与固定阈值的剪枝或量化不同,这种数据驱动的方式能够根据模型特性自适应地调整成分重要性,从而在保留关键信息的同时有效减少模型体积,为LLM的高效部署提供了新方案。
AI 根据报道生成 · 5 小时前更新
最新进展10月19日 12:00
SoCo:优化奇异谱以实现大语言模型压缩报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- arXiv · NLPSoCo:优化奇异谱以实现大语言模型压缩
SoCo 框架提出一种数据驱动的方法,通过可学习对角矩阵对 SVD 分解的奇异谱进行重缩放,以优化 LLM 压缩效果。 该方法包含三阶段训练过程,从粗粒度压缩逐步过渡到细粒度稀疏化,利用放大重要分数的剩余组件补偿被剪枝组件的损失,在多模型评测中表现优于最先进方法。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 910月19日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:0017:0018:0019:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。