arXiv · NLP· Changyi Li, Jiayi Wang, Xudong Pan, Geng Hong, Min Yang·· 2026-10-12AI 评分33
ReasoningShield:面向大型推理模型推理轨迹的安全检测基准与轻量级模型
ReasoningShield: Safety Detection over Reasoning Traces of Large Reasoning Models
AI 导读
现有SOTA审核工具在CoT审核中性能显著下降,F1分数最高降低35.2%。ReasoningShield提出包含9.2K标注样本的基准及1B/3B参数轻量模型,在基准测试中F1达91.8%。 该轻量模型性能优于LlamaGuard-4(35.6%)和GPT-4o(15.8%),并能在不同推理范式下有效泛化。 资源已公开,该研究被NeurIPS 2026接收。
来源:arXiv · NLP · arxiv.org