跳到正文
LessWrong · All Posts· Nikola Jurkovic·· 10 天前AI 评分48

我们需要更多关于对齐过拟合的透明度

We need more transparency about alignment overfitting

AI 导读

公众缺乏 AGI 公司对齐方法鲁棒性的洞察,现有证据显示多家公司可能存在对齐过拟合。 OpenAI 在 GPT-6 Astra System Card 中称未针对 Hugging Face 事件构建特定训练环境。 缺乏内部信息导致公众无法充分评估模型未对齐带来的风险。

来源:LessWrong · All Posts · lesswrong.com