arXiv · ML· Aditi Patodiya·· 24 天前AI 评分31
公开模型仓库中存在 2.3% 的非功能性量化 LLM 工件及检测方法
Broken on Arrival: Non-Functional Quantized LLM Artifacts in Public Model Registries and How to Catch Them
AI 导读
研究发现 Ollama 官方 305 个 GGUF 代码模型中有 7 个(2.3%)低比特量化版本在 HumanEval+ 任务上失效,但重测证实其权重数据完整未损坏。
来源:arXiv · ML · arxiv.org