跳到正文
arXiv · AI· Yuwei Wang, Xingwang Liang, Yu Xie, Haotian Chi, Haijun Geng·· 1 天前AI 评分28

Recoverability-Controlled Safety Miscalibration in Large Language Models

Recoverability-Controlled Safety Miscalibration in Large Language Models

AI 导读

RiskCueBench 基准显示,在意图可恢复时,LLM 增加上下文特异性会导致拒绝率降低 0.175,全局安全评分降低 0.440。 该基准包含 160 个潜在意图和 640 个表面提示,覆盖 25 个模型组及 32,000 个输出,证实安全行为可能因表面形式而错配。 这促使评估方法在语义可恢复性条件下报告响应行为。

来源:arXiv · AI · arxiv.org