Hugging Face 基于开源 LLM 实现 Constitutional AI 的可复现训练配方

Hugging Face 发布了一整套基于开源 LLM 实现 Constitutional AI 的端到端流程与数据集。该流程无需人工反馈，通过自定义“宪法原则”让模型自我批评和修订有害输出。基于 Mistral-7B 进行的实验表明，CAI 模型在 MT Bench 等基准上保持较高可用性，同时在 DAN 越狱测试中展现出显著更安全的响应表现。