研究多模态模型视觉证据不足时的拒答机制

Ananth K Suresh 等人在 arXiv 发布论文，研究多模态大语言模型在视觉证据不足时的拒绝行为。该研究在 MoHoBench 基准上对三个 MLLM 进行了系统操纵，分析指令、后训练及内部激活的影响。 研究发现指令的含义与位置显著影响拒绝率，后训练虽提高拒绝率，但可能诱发“拒绝语言+尝试回答”的混合响应。激活干预能产生跨提示条件可迁移的小幅变化，提示需将证据识别与模型固有拒绝倾向解耦。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。