arXiv · NLP· Erik Larsen·· 2026-10-15AI 评分33
LLM 安全拒绝行为的不稳定性:随机种子与温度如何暴露不一致性
The Instability of Safety: How Random Seeds and Temperature Expose Inconsistent LLM Refusal Behavior
AI 导读
大语言模型安全评估通常依赖单次测试,但研究证实其拒绝行为具有不稳定性。针对 Llama 3.1 8B 等四个模型在 876 个有害提示词上的测试显示,18%-28% 的提示词在不同采样配置下会发生拒绝/部分/服从标签翻转。
来源:arXiv · NLP · arxiv.org