arXiv · AI· Yichen Guo, Yanlong Chen, Xinyue Zhang, Mohan Liu, Song Zhang, Yawei Li·· 16 小时前AI 评分20
LAQ:面向世界动作模型潜变量感知的 4-bit 量化框架
Don't Lose the Future: Latent-Aware 4-Bit Quantization of World Action Models
AI 导读
提出潜变量感知量化框架 LAQ,在保持 4-bit 权重精度下保护预测未来保真度,无需高精度分支或重新校准。 引入读者指标与读取计数实现激活和缓存的精度分配闭合解,并通过注视引导精炼增强注意力 token 的二进制通路。 在 LIBERO-Plus 基准上,LAQ 使 Cosmos-Policy 平均成功率达 83.3%,模型压缩 3.8 倍,GPU 峰值内存降低 2.3 倍。
来源:arXiv · AI · arxiv.org