arXiv · AI· Pingyu Wu, Weiming Zhang, Nenghai Yu·· 2 天前AI 评分33
LLM 安全防护机制是否真正提升了系统安全性
The Safeguard Worked. Is the LLM System Safer?
AI 导读
研究开发框架评估大语言模型防护机制,分析攻击者可能获取的最大最小有害辅助。 分析 52 篇论文中 85 项评测发现,仅 5 项论证攻击路径,4 项提供阻断后证据。 NeMo Guardrails 默认流式配置下,94% 的密码泄露被阻断,但客户端仍获取密码。
来源:arXiv · AI · arxiv.org