原生安全能否迁移？基于在线策略蒸馏跨模型复用安全预训练

研究提出通过在线策略蒸馏将安全预训练模型的“原生安全”属性转移给标准预训练模型。 使用小型安全预训练教师监督学生生成响应，经跨分词器对齐后，学生模型在安全鲁棒性上优于常规安全后训练，且平均效用保持较高。 该方法将原生安全确立为可复用的模型属性，打破了其仅限于原预训练模型的限制，实现了选择性的小模型向大模型安全迁移。