arXiv · AI· Mohammed Nayeem Khan, Allan Kevin T·· 7 天前AI 评分34
Qwen3 量化副本间分歧能否作为小模型错误判据?
One Model, Two Precisions: Does Disagreement Between Quantized Copies Tell You When a Small Model Is Wrong?
AI 导读
研究验证使用 Qwen3-0.6B 和 Qwen3-1.7B 的 8-bit 与低精度副本分歧进行错误检测。在 8,398 道选择题中,0.6B 模型 AUROC 达 0.684,但 1.7B 模型增益不显著。 发现该信号并非量化特有,重排序额外推理路径比单纯增加 8-bit 推理更优,且无法有效替代路由至更大模型。
来源:arXiv · AI · arxiv.org