跳到正文
HackerNoon · AI· Exfiltration·· 10 天前精选AI 评分76

研究人员解密 OpenAI、Anthropic 和 Google API 的隐藏思维链

Researchers Decrypt Hidden Chain-of-Thought From OpenAI, Anthropic and Google APIs

AI 导读

研究人员发现,LLM 提供商返回的加密隐藏推理块可跨会话、跨用户和跨模型复用;将其中一个块输入较弱的同类模型后,模型会以明文输出完整推理轨迹。作者利用该方法从公开日志中恢复了 367 条个人身份识别信息(PII)和 182 条凭据,并提出了相应的缓解措施。

推荐理由

原文梳理了多家大模型厂商隐藏推理过程被外部还原的方法,并给出相关日志中的隐私泄露统计与缓解建议。

来源:HackerNoon · AI · hackernoon.com