Anthropic (X)· AnthropicAI·· 4 小时前AI 评分37
Anthropic 推出 Claude 自我评估安全机制
We’ve trained Claude to flag potential misuse in conversations, a technique we call self-assessment. Right after it responds, Claude give...
AI 导读
Anthropic 训练 Claude 在对话后输出初步安全评估（self-assessment），该机制自 6 月启用以来，已发现现有保障措施未设计的滥用行为。因模型自身参与判断，安全性随模型能力提升而持续提高。
来源：Anthropic (X) · x.com