arXiv · AI· Pengfei Zhou, Jiajun Song, Zhiwei Tang, Yixing Ma, Donghui Si, Yuhang Xu, Huiqi Song, Yiyuan Miao, Yichen Qian, Weihua Chen, Wangbo Zhao, Bohan Zhuang, Jiasheng Tang, Yang You·· 23 小时前AI 评分25
多模态大语言模型统一幻觉模糊测试框架 UniHall 与 SAMF 研究
Unified Hallucination Fuzzing for Multimodal Large Language Models
AI 导读
研究团队推出 UniHall 数据集与 SAMF 框架，用于系统性评估多模态大语言模型的幻觉。 UniHall 覆盖对象、指令和知识维度，SAMF 采用进化变异策略进行自适应模糊测试，并通过多模态仲裁者集成确保动态输入评估可靠性。 实验显示前沿 MLLM 在模糊测试下性能显著退化，揭示推理能力与事实依据的脱节及 RLHF 可能加剧谄媚效应。
来源：arXiv · AI · arxiv.org