SafeWebWorld 基准揭示 Web 世界模型安全盲点

研究人员 Zhifei Hu 等人提出 SafeWebWorld 基准与潜在授权恢复（LAR）方法，旨在评估 Web 世界模型在五个安全领域的决策能力。 在涵盖 3000 个预测的十模型人类评估中，86.1% 的预测被判定为语义合理。这表明模型在逻辑预测上表现良好，但合理预测并不等同于安全充分，暴露了现有模型在安全对齐上的局限。 评估发现模型在授权行为上存在显著不对称：表现为低误放行率，但在可澄清的 ASK 案例中召回率低，且强烈偏好执行 BLOCK 操作。这一结果揭示了世界模型在处理复杂安全边界时的策略偏差。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。