研究提出在线策略蒸馏实现安全预训练跨模型复用

2026年10月21日，arXiv发表cs.AI领域论文，提出通过在线策略蒸馏将安全预训练模型的“原生安全”属性转移给标准预训练模型的方法。 该方法利用小型安全预训练教师模型监督学生模型生成响应，并通过跨分词器对齐技术，使学生在安全鲁棒性上优于常规安全后训练方案，同时保持较高的平均效用。 此项研究将“原生安全”确立为可复用的模型属性，打破了其仅局限于原预训练模型的限制，实现了选择性的小模型向大模型安全迁移。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。