arXiv · AI· Jinhan Li, Kexian Tang, Yihan Xu, Zhuorui Ye, Kaifeng Lyu·· 8 小时前AI 评分29
Safety Reflection Pretraining：LLM 预训练阶段的安全对齐方法
Beyond Safe Data: Pretraining-Stage Alignment with Regular Safety Reflection
AI 导读
提出 Safety Reflection Pretraining 方法，在预训练语料句中插入安全反思，提升 LLM 安全对齐深度。 使用 1.7B 模型在 FineWeb-Edu 上实验，显著降低推理与微调攻击成功率。 通过 MedSafetyWorld 受控环境验证，该方法在防止模型泛化不安全行为上优于数据过滤与重写。
来源：arXiv · AI · arxiv.org