arXiv · NLP· Pepijn Cobben, Xuanqiang Angelo Huang, Thao Amelia Pham, Isabel Dahlgren, Bernhard Sch\"olkopf, Terry Jingchen Zhang, Zhijing Jin·· 7 天前AI 评分36
GT-HarmBench:基于博弈论的 AI 安全风险基准
GT-HarmBench: Benchmarking AI Safety Risks Through the Lens of Game Theory
AI 导读
GT-HarmBench 包含 1,535 个源自 MIT AI 风险数据库的高风险多智能体博弈场景。测试 15 个前沿模型发现,它们在 39% 的案例中未能选择社会有益行动;博弈论干预最高可提升有益结果 31%。 该基准为多智能体环境下的对齐研究提供了标准化测试平台,代码与数据已公开。
来源:arXiv · NLP · arxiv.org