Omni-UBench 全模态 LLM 安全评估基准发布

研究人员 Junhao Wang 等人发布了名为 Omni-UBench 的多模态安全评估基准。该框架是首个综合性的全模态安全评估系统，基于 18.3 万个样本及 35 个以上的异构来源构建。框架主要从安全性、效用及可靠性三个关键维度，对 15 个全模态大语言模型进行了评测。 测试结果发现，现有的安全护栏难以识别跨模态中隐蔽的有害意图，且存在大量安全幻觉以及对文本模式的过度敏感现象。研究揭示了当前模型在跨模态安全语义理解方面的不足，旨在为开发更可靠的全模态护栏提供洞察。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。