跳到正文
热点事件持续更新

OPTIC方法实现Gemma模型嵌入层百倍压缩

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

arXiv(cs.lg)2026-10-23 报道,Jiacheng Liu 等提出 OPTIC 方法,实现 Gemma 4 E4B 模型嵌入层极致压缩。该方法对 Per-Layer Embeddings 实现约 100 倍压缩,保留 97.8% 的基准性能。运行时 GPU 内存减少 29.7%,推理速度最多仅下降 0.40%。OPTIC 采用每 token 存储一个量化码组,每层用层特异性仿射解码器解码的方案。

AI 根据报道生成 · 53 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. arXiv · ML
    OPTIC 跨层潜在向量量化方法实现 Gemma 4 E4B 嵌入的极致压缩

    OPTIC 方法在 Gemma 4 E4B 模型中实现了约 100 倍的 Per-Layer Embeddings 压缩,保留 97.8% 的基准性能。 该方法将压缩后的模型运行时 GPU 内存减少 29.7%,推理速度最多仅下降 0.40%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。