LessWrong · All Posts· Hasan Baig·· 2026-10-17AI 评分28
RedwoodBench 如何评估前沿模型模拟概念性 AI 安全研究员的能力
RedwoodBench: Can Frontier Models Imitate Conceptual AI Safety Researchers?
AI 导读
Redwood Research 发布 RedwoodBench,包含约 360 个任务,评估模型在 Google Docs 评论和 Slack 回复中的概念推理能力。 该基准与 ECI 在 13 个模型上的相关性为 0.79;Opus 5.5 在最大推理努力下得分从 4.4% 提升至 8.1%。 团队将分享构建管线,协助其他 AI 安全组织利用类似数据建立自有评估基准。
来源:LessWrong · All Posts · lesswrong.com