OPTIC方法实现Gemma模型嵌入层百倍压缩
热点事件持续更新
OPTIC方法实现Gemma模型嵌入层百倍压缩
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
arXiv(cs.lg)2026-10-23 报道,Jiacheng Liu 等提出 OPTIC 方法,实现 Gemma 4 E4B 模型嵌入层极致压缩。该方法对 Per-Layer Embeddings 实现约 100 倍压缩,保留 97.8% 的基准性能。运行时 GPU 内存减少 29.7%,推理速度最多仅下降 0.40%。OPTIC 采用每 token 存储一个量化码组,每层用层特异性仿射解码器解码的方案。
AI 根据报道生成 · 53 分钟前更新
最新进展10月23日 12:00
OPTIC 跨层潜在向量量化方法实现 Gemma 4 E4B 嵌入的极致压缩报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- arXiv · MLOPTIC 跨层潜在向量量化方法实现 Gemma 4 E4B 嵌入的极致压缩
OPTIC 方法在 Gemma 4 E4B 模型中实现了约 100 倍的 Per-Layer Embeddings 压缩,保留 97.8% 的基准性能。 该方法将压缩后的模型运行时 GPU 内存减少 29.7%,推理速度最多仅下降 0.40%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。