跳到正文
热点事件持续更新

Dengjie Li等提出SoCo框架,优化LLM压缩

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

2026年10月19日,arXiv预印本平台发布了一篇由Dengjie Li等人提交的论文,正式提出了名为SoCo(Singular spectrum optimization)的大语言模型压缩框架。该研究旨在解决传统LLM压缩方法在精度保持方面的挑战,提出了一种新的数据驱动思路,通过可学习的机制对奇异值分解(SVD)中的成分进行优化,从而提升模型压缩后的表现。该方法的核心在于引入了一个可学习的对角矩阵,用于对SVD分解后的奇异谱进行动态重缩放。与固定阈值的剪枝或量化不同,这种数据驱动的方式能够根据模型特性自适应地调整成分重要性,从而在保留关键信息的同时有效减少模型体积,为LLM的高效部署提供了新方案。

AI 根据报道生成 · 5 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. arXiv · NLP
    SoCo:优化奇异谱以实现大语言模型压缩

    SoCo 框架提出一种数据驱动的方法,通过可学习对角矩阵对 SVD 分解的奇异谱进行重缩放,以优化 LLM 压缩效果。 该方法包含三阶段训练过程,从粗粒度压缩逐步过渡到细粒度稀疏化,利用放大重要分数的剩余组件补偿被剪枝组件的损失,在多模型评测中表现优于最先进方法。

本事件热度走势

可比范围当前
8
可比范围峰值
910月19日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。