arXiv · AI· Yingshuo Wang, Weixiang Zhao, Guancheng Li, Jiahe Guo, Yu Zhang, Yanyan Zhao·· 17 小时前AI 评分36
多模态安全护栏中的理由幻觉诊断与 TCG-RL 接地方法
When Safety Rationales Hallucinate: Diagnosing and Grounding Multimodal Safety Guards
AI 导读
研究系统揭示多模态安全护栏中普遍存在的视觉事实与安全归因幻觉,指出其不随分类准确率或模型规模提升而减弱。 提出的 Tool-Contrastive Grounding Reinforcement Learning (TCG-RL) 仅在工具提升接地效果时给予奖励,显著降低幻觉并保持竞争性安全预测性能。 该研究推动安全决策从仅关注结果评估转向兼顾准确性与可验证接地的新范式。
来源:arXiv · AI · arxiv.org