arXiv · AI· Seanie Lee, Sangwoo Park, Yumin Choi, Gyeongman Kim, Minki Kang, Jihun Yun, Sung Ju Hwang, Dongmin Park, Jongho Park·· 1 天前AI 评分33
ThinkSafe: 为推理模型提供自生成安全对齐
ThinkSafe: Self-Generated Safety Alignment for Reasoning Models
AI 导读
ThinkSafe 提出无外部教师的安全对齐方法，在 DeepSeek-R1-Distill 和 Qwen3 上实现安全性提升。 在 Qwen3-0.6B 模型上，该方法以 GRPO 约七分之一的耗时达到相当的安全性和推理性能。 代码、模型及数据集已开源，该方法被收录于 NeurIPS 2026。
来源：arXiv · AI · arxiv.org