arXiv · AI· Ana Clara Zoppi Serpa, Anderson Rocha, H\'elio Pedrini·· 2 天前精选AI 评分64
363个LLM系统提示词安全审计:Nevan智能体CTF研究显示八成模型泄露密钥
Eight in Ten LLMs Leak System-Prompt Secrets: Nevan, an Agentic Capture-the-Flag Study
AI 导读
该研究审计了OpenRouter目录中363个文本输入/输出模型的系统提示词层级执行能力,发现其中296个模型(加上4个后续发布的模型)共300次泄露了嵌入在系统提示词中的16字符秘密Flag。
推荐理由
原文通过363个模型实测展示了系统提示词泄露的高频现象,并指出非英文语言转向是主要攻击向量,为工程侧部署提供了直接的安全加固建议。
来源:arXiv · AI · arxiv.org