跳到正文
LessWrong · All Posts· Avi Brach-Neufeld·· 2026-10-06AI 评分50

强制训练至内部部署间隔的潜在弊端

Downsides of a Mandatory Training-to-Internal Deployment Gap

AI 导读

针对“AI研发仅能使用训练至少9个月前的模型”的政策提议,存在两大核心弊端:能力积累缺乏现实对齐反馈,且“训练结束”的界定极其困难。 该政策导致模型无法基于部署中暴露的问题进行迭代,且要求模型权重9个月不变将阻碍安全问题的修复,若允许安全微调则边界模糊。 该分析指出了AI pacing策略在执行层面的具体技术困境与对齐风险。

来源:LessWrong · All Posts · lesswrong.com