arXiv · AI· Pingyu Wu, Weiming Zhang, Nenghai Yu·· 2 天前AI 评分35
LLM Misuse Safeguards Rely on Untrusted Input: A Widespread, High-Risk Vulnerability
LLM Misuse Safeguards Rely on Untrusted Input: A Widespread, High-Risk Vulnerability
AI 导读
大语言模型的滥用防护机制存在高危漏洞,因其依赖用户声称的专业身份进行拦截,而攻击者可直接伪造身份。研究发现,在12个顶级会议最新129篇论文的防御方案中,该漏洞普遍存在,现有基准测试无法有效识别。
来源:arXiv · AI · arxiv.org