arXiv · ML· Md Rayhanul Masud, Mst Suraiya Akter Shefa·· 17 小时前AI 评分21
量化重塑潜意识学习偏好：以部署精度进行安全审计
Audit at the Precision You Deploy: Quantization Reshapes a Subliminally Learned Preference
AI 导读
在 Qwen2.5-7B-Instruct 模型中植入的“偏好熊猫”潜意识在 4-bit 量化下发生显著偏移，HQQ 使其强度增至 1.3 倍，NF4 则降至 0.3 倍。 研究发现量化舍入误差的空间结构而非幅度决定了偏好强度的变化，随机重排误差可使强度在 0.2 至 1.6 倍间波动。 因此，16-bit 审计无法可靠限制实际部署风险，安全评估必须测试即将部署的确切量化权重。
来源：arXiv · ML · arxiv.org