跳到正文
arXiv · NLP· Mohan W. Gupta, Sandy Tanwisuth·· 10 天前AI 评分27

系统提示词对 LLM 安全响应的偏差影响大于对可区分性的影响

System Prompts Affect Response Bias More Than Discriminability in LLM Safety

AI 导读

在 HarmBench 等基准上评估 13 个模型发现,系统提示词主要改变模型拒绝不安全请求的意愿,而对区分安全与不安全请求的可区分性影响较小且不一致。 研究表明,提高提示词清晰度会增加模型拒绝倾向,但不能可靠提升其辨别能力;提示词还会在澄清与安全帮助等六种行为策略间切换响应。

来源:arXiv · NLP · arxiv.org