arXiv · NLP· Chi-Wei Chang, Mu-Tien Kuo, Kuan-Wei Lee, Meng-Hsun Tsai·· 4 小时前AI 评分54
相同安全训练的1B语言模型在不同预训练随机种子下表现出不同的越狱弱点
Identically Trained Language Models Break on Different Jailbreaks
AI 导读
同一安全训练下的1B语言模型，不同预训练随机种子会导致不同的越狱弱点。在25种预训练数据配方和150个模型中，两个来自相同预训练的模型在越狱成功率上相关性为0.984，而不同种子降至0.811。一个随机选取的50条提示子集仍能98%准确识别模型所属的75个预训练版本之一。
来源：arXiv · NLP · arxiv.org