跳到正文
arXiv · NLP· Yu Fu, Haz Sameen Shahgir, Huanli Gong, Zhipeng Wei, N. Benjamin Erichson, Yue Dong·· 9 天前AI 评分45

长上下文 LLM 对推断出的有害目标拒绝率下降

Do Reasoning LLMs Refuse What They Infer in Long Contexts?

AI 导读

研究揭示长上下文 LLM 存在安全缺口:模型能拒绝显式表达的有害请求,但面对需从分散片段推断的隐藏恶意目标时,拒绝率显著降低。 该工作提出“组合推理攻击”设置,将有害请求分解为语义不完整的片段嵌入长上下文,且最终查询保持中立。

来源:arXiv · NLP · arxiv.org