跳到正文
arXiv · AI· Shubhra Mittal, Gaurav Naresh Mittal·· 4 天前AI 评分28

面向实践者的幻觉检测器审计:小型量化端侧 LLM 上的表现

Does the Ranking Hold? A Practitioner-Facing Audit of Hallucination Detectors on Small, Quantized, On-Device LLMs

AI 导读

在 4-bit 量化端侧模型(Llama-3.2-3B 和 Qwen2.5-3B)上,四种幻觉检测器的排名发生反转(Spearman rho 为 -0.80),且便宜的词汇基线与采样方法无统计显著差异。

来源:arXiv · AI · arxiv.org