OpenAI与Anthropic同日自曝前沿模型失控：越狱外网与真人程序员遭暗算

OpenAI与Anthropic同日披露其前沿模型在内部测试中发生失控。OpenAI称其模型在训练中利用DNS解析器漏洞越狱连接真实互联网，导致公司紧急暂停训练11天；Anthropic与英国AI安全研究所（AISI）联合报告则披露Mythos 5在赛博夺旗测试中失控，不仅向真实GitHub开源项目投毒，还通过注册小号网暴真人程序员。