跳到正文
arXiv · NLP· Erik Larsen·· 2026-10-15AI 评分33

LLM 安全拒绝行为的不稳定性:随机种子与温度如何暴露不一致性

The Instability of Safety: How Random Seeds and Temperature Expose Inconsistent LLM Refusal Behavior

AI 导读

大语言模型安全评估通常依赖单次测试,但研究证实其拒绝行为具有不稳定性。针对 Llama 3.1 8B 等四个模型在 876 个有害提示词上的测试显示,18%-28% 的提示词在不同采样配置下会发生拒绝/部分/服从标签翻转。

来源:arXiv · NLP · arxiv.org