跳到正文
arXiv · ML· Farid Hasanov, Riccardo Renzulli, Bahram Zonooz, Mykola Pechenizkiy, Decebal Constantin Mocanu·· 16 天前AI 评分31

Dr. No:视觉-语言模型中用于拒绝回答的特征引导方法

Dr. No: Feature Steering for Abstention in Vision-Language Models

AI 导读

Dr. No 提出一种特征引导方法,通过调节稀疏自编码器(SAE)特征在推理时控制模型拒绝回答,无需重新训练基础模型。 该方法在 LLaVA-1.6 Mistral 7B 及 Qwen3.5-2B 上测试,在 UNK-VQA、MM-UPD 和 AbstentionBench 基准中实现正确答案与拒绝回答的更佳平衡,效果优于事后拒绝基线。

来源:arXiv · ML · arxiv.org