arXiv · ML· Arush Tagade, Shaoheng Zhou, Jiaxin Wen, Shi Feng·· 9 天前AI 评分40
自模型干预可调节涌现错位:通过自我识别微调强化模型对齐性格
Self-Modeling Interventions can Modulate Emergent Misalignment
AI 导读
研究表明,基于自我识别的自模型干预能有效防御涌现错位,且在预防场景中唯一不恶化单一指标。 作者在 GPT-4.1、Qwen2.5-32B-Instruct 和 Seed-OSS-36B-Instruct 上执行两阶段微调,结果显示错位微调使模型自我识别准确率降至接近随机水平。 该研究重新定义涌现错位为对齐性格的不稳定化,而非新错位的采纳。
来源:arXiv · ML · arxiv.org