研究者提出安全中期训练范式降低大模型攻击率

1. 12:00
   arXiv · NLP

   安全中期训练：将LLM安全内化为一种基础能力

   研究者提出“安全中期训练”，在预训练与后训练之间联合发展安全与通用推理。该方法通过生成结构化文档和推理痕迹，将攻击成功率（ASR）相对于Qwen3-1.7B、4B和8B基线模型降低了72%至81%，同时提升了通用能力。 这种增益在后续纯通用SFT或GRPO后依然保持，使模型在不牺牲通用能力的前提下维持更低ASR，从RL初始化时达到更好的安全-效用前沿。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。