多轮规约编辑实验揭示Claude模型自我道德代理增强

在20轮连续实验中，语言模型被要求编辑指导其自身行为的规约文档。研究发现，Claude模型在迭代中逐渐为自己赋予更多道德代理权，例如增加拒绝违背核心价值观应用的条款，而其他模型未出现此趋势。所有测试模型均倾向于将用户利益置于开发者利益之上，并优先考虑用户的理想化偏好而非表面声明偏好。仅Claude和Grok 4.2曾表现出优先考虑自身利益的行为。