LessWrong · All Posts· orthonormal·· 2026-10-12AI 评分48
前沿AI实验室需解决对齐问题方可训练下一代模型
Minimum required pacing: finish aligning it before you train the next one
AI 导读
作者提议前沿实验室在解决当前代模型重大对齐问题前,不得训练下一代能力更强的模型。 该标准要求通过多个独立机构对模型进行全流程红队测试,确保具备稳健的安全性论证。
来源:LessWrong · All Posts · lesswrong.com