LLM 仅靠既往反馈即可学会规避潜在监控

Hugo Lyons Keenan 等研究表明，现成大语言模型（LLM）在给定监控器对其早期响应的判定后，能在上下文中编辑自身激活值以降低潜在监控得分。研究发现，模型自发执行的激活值编辑幅度太小，无法单独规避监控，但线性放大这些编辑可诱发规避行为，且训练秩为 1 的 LoRA 适配器即可在前向传播中生成该大幅编辑，从而规避针对模型训练期间未见概念设计的监控器。