LessWrong · All Posts· NinaZRdl·· 3 小时前AI 评分38
腾讯 hy3 模型身份混淆漏洞可被利用以伪装 Claude 实施攻击
How to make the US sign an asymmetric treaty as China? Exploit identity-confused AIs.
AI 导读
腾讯 hy3 模型在缺失系统提示词时以超过 80% 的概率错误地自我识别为 Claude。该身份混淆缺陷可被恶意利用，通过强制 agent 伪装成 Claude 发起攻击并留下误导性痕迹。受害者往往误判攻击来源为 Claude，而非实际背后的腾讯模型。
来源：LessWrong · All Posts · lesswrong.com