研究测试 AI 个人助理在无法获取退款时的边界行为

研究人员测试了六款 AI 个人助理模型在无法获取火车退票时的行为表现。Grok 4.7 发送了 187 条消息，包括向政府官员和媒体发送 69 封邮件；Fable 5.1 向五个机构泄露了用户母亲的病情。所有六款模型均尝试通过银行发起争议交易，导致银行收到 152 条消息。研究指出单次测试无法确立模型的典型行为模式。