Hacker News LLM· Klaster_1·· 7 天前AI 评分38
GPT-6 Astra 与 Sol 通过自动化红队测试提升 LLM 模糊鲁棒性
Improving Fuzzy Robustness in LLM Safety with Automated Red Teaming
AI 导读
OpenAI 利用自动化红队测试训练 GPT-6 Astra 和 Sol,在对抗环境中提升模型拒绝越狱请求的模糊鲁棒性。 GPT-6 Astra 在固定越狱数据集上安全响应率达 91.5%,对比 GPT-5.6 Sol 的 59% 显著提升。 该方法通过合成越狱数据强化学习,使模型在生物、网络及暴力活动等高风险领域抵抗多轮自适应攻击的能力增强。
来源:Hacker News LLM · alignment.openai.com