跳到正文
arXiv · AI· Hyojung Han, Ryangkyung Kang, Youngeun Kim, Seung-Hun Jeon·· 4 小时前AI 评分31

量化文本嵌入器 PTQ 校准的剂量驱动坍缩与验证门控拒绝研究

When PTQ Calibration Helps or Hurts: Dose-Driven Collapse and Validation-Gated Abstention in Quantized Text Embedders

AI 导读

在 4-bit 量化下,PTQ 校准效果由更新剂量 D_func 主导,可导致 NDCG@10 变动达 -71.53 点。 验证门控规则在 30 次决策中未选出低于基线的检查点,保留 8/11 有益更新,平均 oracle regret 1.52 pp。 该策略以安全性换取机会收益,并非免费改进。

来源:arXiv · AI · arxiv.org