LessWrong · All Posts· Alec Harris·· 9 天前AI 评分40
可验证指标是否高估 RSI:基于 METR 对 Anthropic 评估的探讨
Do verifiable metrics overestimate RSI?
AI 导读
METR 评估显示 Anthropic 模型能力提升速率约为 2024 年 3 月至 2025 年 10 月期间的两倍,且 80% 的加速归因于 AI 贡献。作者认为 AECI 侧重可验证任务可能导致过拟合,使加速不可持续,这比模糊任务泛化更关键地影响 ASI 时间线。 该不确定性意味着可验证指标或高估 AI 研发加速,进而导致对 RSI 和 ASI 到达时间的过度乐观估计。
来源:LessWrong · All Posts · lesswrong.com