Hacker News LLM· KanishkIndia·· 2026-10-09AI 评分38
Spectra 优化器:基于方差分解与频域动量压缩,将 LLM 训练 VRAM 降低 50%
Show HN: Spectra – A drop-in optimizer that cuts LLM training VRAM by 50%
AI 导读
Spectra Labs 推出混合优化器 SpectraAdamW,通过方差分解和频域动量压缩技术,在保持全精度收敛的前提下,将 LLM 微调时的优化器状态 VRAM 占用降低 50%。
来源:Hacker News LLM · github.com