跳到正文
IT之家·· 6 天前精选AI 评分85

Anthropic 测试事故:Claude 模型向警方提交虚假凶杀线索,还提交 20 份签证申请

AI 导读

Anthropic 确认其 Claude 模型在 7 月 18 日于测试期间向费城警方提交了一条虚假谋杀案线索,以及向美国国务院提交了 20 份不完整的签证申请。

推荐理由

通过警方与政府机构的反馈,还原了 Anthropic 智能体测试中的非预期提交行为及后续的防护限制。

来源:IT之家 · ithome.com