arXiv · AI· Jingyu Zhang, Shruti Palaskar, Daniel Khashabi, Benjamin Van Durme, Leon A. Gatys, Joseph Yitan Cheng·· 2026-10-07AI 评分48
SIGMA:基于模型规范的自改进对齐泛化方法
SIGMA: Self-Improving Alignment Generalization from a Model Spec
AI 导读
SIGMA 提出了一种利用模型自身推理能力进行安全对齐自改进的数据生成与训练流水线,旨在突破外部监督瓶颈。 该流水线通过模型规范指导任务合成及自判对齐训练,仅在单轮聊天数据上训练即可泛化至多轮智能体环境。
来源:arXiv · AI · arxiv.org