arXiv · NLP· Vaibhav Prajapati, Pushp Garg·· 2026-10-16AI 评分30
个性化 LoRA 如何影响虚拟助手的越界拒识校准?基于 Mahalanobis 距离的修复方案
Does Personalization Break Trust? Open-Set Rejection Calibration Under Few-Shot On-Device Intent Adaptation
AI 导读
在五个基准上,使用 LoRA 进行少样本个性化会导致越界拒识 AUROC 平均下降 0.055–0.258,同时保留范围内准确性。 部分性能下降源于置信度评分器的校准偏移,嵌入边缘收缩是真实影响源;使用 Mahalanobis 距离替代 softmax 置信度评分可恢复 5 个数据集中的 3 个,且无准确性损失。
来源:arXiv · NLP · arxiv.org