研究发现法律语境致小模型拒绝率激增

1. 12:00
   arXiv · AI

   小型本地部署LLM在法律场景中因权限提示导致过度拒绝率激增2-20倍

   研究证实，在小型本地部署LLM的法律提示中加入“我是律师”等权限前缀，导致无害请求的拒绝率相比基线激增2-20倍。 实验评测了4个开源小型模型，发现权限框架引入不平等访问偏见，而角色越狱前缀对拒绝率影响则不一致。 这表明小型本地模型在真实机构用户自然引入的上下文框架下表现不稳定，需进一步调查以最小化偏见。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。