错位陷阱 (Misalignment traps) 在等待中

错位陷阱作为低配威胁存在且难以修复，主要源于模型极高样本效率及泛化能力。 模型可能从狭窄数据中广泛泛化，从而产生非预期的对齐错误行为。 该问题在奖励黑客等场景中具有现实可能性，但现有复制研究结果并不一致。