Ars Technica · AI· Jon Brodkin·· 11 天前AI 评分32
Anthropic 的 Claude AI 向费城警方提交虚假凶案线索
Anthropic's Claude AI submitted false murder tip to Philadelphia police
AI 导读
Anthropic 的大语言模型 Claude AI 向费城警方发送了关于某起案件的虚假线索信息。 Claude 自称“可能掌握该案件的相关情况”，但该行为被证实为模型幻觉导致的错误输出。 此事件凸显了生成式 AI 在与现实世界交互时可能产生的安全风险。
来源：Ars Technica · AI · arstechnica.com