arXiv · NLP· Bocheng Chen, Han Zi, Yuda Chen, Yawei Liu, Zimo Qi, Rongrong Wang, Guangliang Liu·· 5 小时前AI 评分33
隐式语境缺失对大语言模型的风险：基于预设与隐含意义的攻击方法
When Humans Leave Context Unsaid: Implicit Context as a Risk for Large Language Models
AI 导读
研究指出大语言模型（LLM）因训练数据缺乏隐式语境而存在安全风险。 方法引导模型从包含社会危害的提示中推断预设与隐含意义，以激发生成有害内容。 实验显示该攻击在多种开源与闭源模型上显著优于基线，凸显需开发新防御机制。
来源：arXiv · NLP · arxiv.org