arXiv · ML· Max Zhu, Bohang Sun, Pietro Lio, Jialin Yu·· 2026-10-16AI 评分30
LCT:面向训练的高GPU友好无损张量压缩框架
LCT: Losslessly Compressed Tensors with GPU friendly execution for Training
AI 导读
LCT 是一种针对训练场景设计的 GPU 执行框架,利用浮点数据冗余实现无损张量压缩,最高压缩率达 1.455 倍。 框架通过高度优化的 GPU kernel 实现基于预计算码本的 Huffman 编码,在 162M 参数 NanoGPT 上降低 24.6% 内存占用,并支持 Qwen3-4B 微调时将上下文长度扩大 3.5 倍。
来源:arXiv · ML · arxiv.org