跳到正文
arXiv · NLP· Chang-Chieh Huang, Yan-Lun Chen, Chia-Mu Yu, Wei-Bin Lee·· 3 天前AI 评分30

RAS:通过拒绝对齐测量 LLM 安全性

RAS: Measuring LLM Safety Through Refusal Alignment

AI 导读

研究者提出 RAS 评分体系,用于高效评估开源 LLM 的安全拒绝对齐程度。 该体系基于 SafeVec 流程,在 Llama、Gemma 和 Qwen 的 18 个变体上,RAS 与行为攻击成功率呈 0.934 的相关系数。 RAS 可将评估效率提升 3.2 至 80.5 倍,显著加速相关检查点筛选。

来源:arXiv · NLP · arxiv.org