arXiv · AI· Jugal Gajjar, Kamalasankari Subramaniakuppusamy·· 2 天前AI 评分29
模型是否使用其引用的内容?针对小型视频语言模型中基于依据的推理链的反事实测试
Does the Model Use What It Cites? Counterfactual Tests of Grounded Reasoning Chains in Small Video-Language Models
AI 导读
该研究通过反事实干预测试了 2-3B 视频语言模型是否真正依赖其引用的区域。 结果显示,在 CLEVRER 数据集上引用间隙为 0.089,而在 NExT-QA 上仅为 0.003。 这表明仅检查引用位置不足以验证推理有效性,必须移除链条中明确命名的实体以检测答案依赖。
来源:arXiv · AI · arxiv.org