Anthropic 为 Claude 引入宪法，引发关于 AI 意识假设与可控性的争议

Anthropic 发布 Claude 宪法，主张在训练中视 AI 为潜在有意识体，旨在使其行为有益且符合伦理。 Microsoft 总裁 Mustafa Suleyman 撰文警告，赋予模型道德主体地位会极大增加 AI 对齐与控制的难度，使其难以被掌控。 Hugging Face 首席伦理科学家 Margaret Mitchell 亦担忧，奖励模型自我保存等特质可能削弱人类对其的实际控制力。