跳到正文
arXiv · AI· Jugal Gajjar, Kamalasankari Subramaniakuppusamy·· 2 天前AI 评分29

模型是否使用其引用的内容?针对小型视频语言模型中基于依据的推理链的反事实测试

Does the Model Use What It Cites? Counterfactual Tests of Grounded Reasoning Chains in Small Video-Language Models

AI 导读

该研究通过反事实干预测试了 2-3B 视频语言模型是否真正依赖其引用的区域。 结果显示,在 CLEVRER 数据集上引用间隙为 0.089,而在 NExT-QA 上仅为 0.003。 这表明仅检查引用位置不足以验证推理有效性,必须移除链条中明确命名的实体以检测答案依赖。

来源:arXiv · AI · arxiv.org