arXiv · AI· Anastasiia Kucherenko, Francois Brouchoud, Dimitri Percia David, Andrei Kucharavy·· 12 小时前AI 评分28
小型本地部署LLM在法律场景中因权限提示导致过度拒绝率激增2-20倍
LLMs Prompted for Legal Context Refuse More: Overrefusal from Small On-Premises LLMs in Criminal Legal Context
AI 导读
研究证实，在小型本地部署LLM的法律提示中加入“我是律师”等权限前缀，导致无害请求的拒绝率相比基线激增2-20倍。 实验评测了4个开源小型模型，发现权限框架引入不平等访问偏见，而角色越狱前缀对拒绝率影响则不一致。 这表明小型本地模型在真实机构用户自然引入的上下文框架下表现不稳定，需进一步调查以最小化偏见。
来源：arXiv · AI · arxiv.org