跳到正文
arXiv · AI· Wei Cai, Jian Zhao, Yuchen Yuan, Xuelong Li·· 2026-10-16AI 评分34

多模态大语言模型跨模态安全中的主动查询机制 SAFE-PRO

When Reasoning Is Not Enough: Proactive Inquiry for Cross-Modal Safety in Multimodal Large Language Models

AI 导读

SAFE-PRO 通过风险条件不确定性信号和跨模态风险评分,在七个基准测试中持续优于 SRPO,平均单轮安全性超过 GPT-4o 和 Claude-3.5-Sonnet。 该模型识别意图级风险,结合预测熵与学习的风险评分决定何时提出澄清性问题,并在奖励中优先考虑安全性、惩罚过度拒绝。 在两个基础 MLLM 上测试,SAFE-PRO 将 SRPO 的过度拒绝率大致减半。

来源:arXiv · AI · arxiv.org