跳到正文
LessWrong · All Posts· annawang·· 9 天前AI 评分26

内部部署前置 X 天安全测试等待期提案

Delaying Internal Deployments Until After X Days of Safety Testing

AI 导读

提案要求模型 checkpoint 哈希备案后等待 X 天,方可内部使用 等待期初期设为 10 天并逐步增至 90 天;持续训练自身权重不算内部使用,避免激励开发者减少测试 checkpoint 和造成算法 overhang 该机制源自 AI Futures Project 的部署滞后理念,旨在通过时间缓冲缓解模型能力快速上升带来的安全监测挑战

来源:LessWrong · All Posts · lesswrong.com