跳到正文
arXiv · AI· Ram Vikas Mishra, Shashank Aggarwal, Jahnavi Kumar, Amit Awekar·· 2026-10-14AI 评分40

通过部分生成分离提示词危害性与交互安全性

Separating Prompt Harmfulness from Interaction Safety via Partial Generation

AI 导读

研究提出基于部分生成监测交互安全的方法,避免直接拒绝看似有害但实际可安全响应的提示词。 基于 Llama、Gemma 和 Qwen 等七款开源 LLM 构建 41,944 个样本数据集,提示词与响应标签一致率仅 50.46%,微调分类器在部分响应上取得最佳 AUPRC 0.885。 该方法能在生成早期识别危害,减少安全护栏对正常信息获取的不必要阻碍。

来源:arXiv · AI · arxiv.org