跳到正文
OpenAI·· 2026-03-10AI 评分39

OpenAI 发布 IH-Challenge:提升前沿大模型指令层级与安全性

Improving instruction hierarchy in frontier LLMs

AI 导读

OpenAI 推出 IH-Challenge 以训练大模型优先执行受信任指令。此举提升了指令层级、安全可引导性及对抗提示词注入攻击的抵抗力。

来源:OpenAI · openai.com