ActQuant 发布：VLA 模型次4比特量化框架

Arash Akbari 等人于2026年11月6日在 arXiv 发布论文，提出 ActQuant 框架。该框架专为视觉-语言-动作模型设计，采用行动引导混合精度训练后量化技术。其核心创新在于将模型主干权重压缩至次4比特水平。 在 LIBERO 基准测试中，ActQuant 表现优异。以低于 3 bpw 的极低比特率，成功保留了 OpenVLA-OFT 模型 95.0% 的性能，证明了其在精度保持方面的有效性。该方法在大幅压缩模型尺寸的同时，未牺牲原有模型的推理能力。 在实际部署方面，该框架实现了显著的效率提升。通过 2.5 bpw 的量化策略，模型主干被压缩至 2.7 GB，并实现了 5.3 倍的加速效果。实验在 UR3 机械臂上进行验证，结果显示量化后的模型能够保持与基线一致的任务成功率，展示了其实用价值。

AI 根据报道生成 · 20 小时前更新