ThinkSafe 推理模型安全对齐方法开源
热点事件持续更新
ThinkSafe 推理模型安全对齐方法开源
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
研究团队提出名为 ThinkSafe 的安全对齐方法，该方法无需外部教师模型，直接利用冻结的学生模型生成安全对齐数据，实现了推理模型的自我安全强化。该方法已应用于 DeepSeek-R1-Distill 和 Qwen3 系列模型，验证了其在提升模型安全性方面的有效性。 在性能效率方面，实测显示在 Qwen3-0.6B 模型上，ThinkSafe 以 GRPO 算法约七分之一的耗时，达到了相当的安全性与推理性能表现，展现了高效的优势。目前，该研究相关代码、模型权重及数据集已全部开源，且该成果已被正式收录于 NeurIPS 2026 会议。
AI 根据报道生成 · 3 小时前更新
最新进展11月2日 13:00
ThinkSafe: 为推理模型提供自生成安全对齐报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv · AIThinkSafe: 为推理模型提供自生成安全对齐
ThinkSafe 提出无外部教师的安全对齐方法，在 DeepSeek-R1-Distill 和 Qwen3 上实现安全性提升。 在 Qwen3-0.6B 模型上，该方法以 GRPO 约七分之一的耗时达到相当的安全性和推理性能。 代码、模型及数据集已开源，该方法被收录于 NeurIPS 2026。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月2日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。