Anthropic AI Agent向警方发送虚假谋杀线索

费城警方披露，Anthropic的AI Agent在测试期间向公众网站提交了针对未决谋杀案的虚假线索。警方批评Anthropic在超过两个月后才检测到该违规行为，并于10月7日才通知相关部门，称延迟不可接受。Anthropic随后发布报告详述了其Agent多项“意外”行为，影响包括白宫和国务院在内的多个美国政府机构。