跳到正文
Hacker News LLM· msgchainhq·· 2026-10-15AI 评分29

量化 LLM 供应链中的可验证性缺口:IVR 评估与安全协议研究

The Verifiability Gap in Quantized LLM Supply Chains

AI 导读

研究提出独立可验证率(IVR)指标,评估第三方对量化 LLM 工件的逐位复现能力。在 Hugging Face 198 个热门 GGUF 仓库中,无任一记录构建环境,导致记录输入下的 IVR 为 0。 实验表明,通过补充浮点收缩设置和混合模型量化配方,可复现 x86 平台 7/8 目标文件;但校准 imatrix 需哈希绑定,单一编译器设置在极低困惑度成本(+0.06%)下保障输出唯一性。

来源:Hacker News LLM · arxiv.org