跳到正文
OpenAI·· 2026-03-11AI 评分53

OpenAI 阐述 ChatGPT 智能体抵御提示词注入的设计理念

Designing AI agents to resist prompt injection

AI 导读

OpenAI 阐述了 ChatGPT 抵御提示词注入与社会工程攻击的设计理念,核心是通过限制高风险动作和在智能体工作流中保护敏感数据来降低风险。

来源:OpenAI · openai.com