arXiv · NLP· Zhengyue Zhao, Liwei Jiang, Yejin Choi, Chaowei Xiao1·· 6 小时前AI 评分42
安全中期训练：将LLM安全内化为一种基础能力
Safety Mid-Training: Internalizing LLM Safety as a Foundational Capability
AI 导读
研究者提出“安全中期训练”，在预训练与后训练之间联合发展安全与通用推理。该方法通过生成结构化文档和推理痕迹，将攻击成功率（ASR）相对于Qwen3-1.7B、4B和8B基线模型降低了72%至81%，同时提升了通用能力。 这种增益在后续纯通用SFT或GRPO后依然保持，使模型在不牺牲通用能力的前提下维持更低ASR，从RL初始化时达到更好的安全-效用前沿。
来源：arXiv · NLP · arxiv.org