跳到正文
LessWrong · All Posts· Raymond Douglas·· 3 天前AI 评分30

AI 安全中的“内部博弈”倾向与外部施压的失衡分析

The Siren Song of the Inside Game

AI 导读

文章指出 AI 安全领域存在结构性倾向,导致相对于公开问责,人们过度投资于与前沿实验室的“内部博弈”(建立信任与妥协)。 这种倾向由局部激励和环境压力驱动,例如最大资助方 Coefficient Giving 的历史资助多偏向内部游戏(如购买 OpenAI 董事会席位),且 Anthropic 等机构的额外资助加剧了这一失衡。

来源:LessWrong · All Posts · lesswrong.com