Hugging Face Blog·· 2024-02-23AI 评分40
Haize Labs 发布对抗性测试韧性排行榜
Introducing the Red-Teaming Resistance Leaderboard
AI 导读
Haize Labs 在 Hugging Face 支持下发布 Red Teaming Resistance Benchmark,旨在通过高质量人工攻击测试前沿 LLM 在极端红队测试下的鲁棒性。该基准利用 AdvBench、Beavertails 等数据集,结合 LlamaGuard 和 GPT-4 评估模型输出安全性,并按违规类别细分风险。
来源:Hugging Face Blog · huggingface.co