跳到正文
arXiv · NLP· Yan Qiu, Yuanyuan Li·· 13 小时前AI 评分23

对比原型结构用于大语言模型越狱检测

Jailbreak Detection on Large Language Models via Contrastive Prototype Structures

AI 导读

JDPI 利用对比学习构建有害与良性原型,通过原型相对距离实现安全检测,在四个基准测试中检测准确率提升 9.1-18.0 个百分点。 该模型仅需二元安全标签进行编码器适配,跨数据集鲁棒性优于传统分类器,平均准确率提升 1.59 个百分点。

来源:arXiv · NLP · arxiv.org