跳到正文
arXiv · AI· Pingyu Wu, Weiming Zhang, Nenghai Yu·· 2 天前AI 评分35

LLM Misuse Safeguards Rely on Untrusted Input: A Widespread, High-Risk Vulnerability

LLM Misuse Safeguards Rely on Untrusted Input: A Widespread, High-Risk Vulnerability

AI 导读

大语言模型的滥用防护机制存在高危漏洞,因其依赖用户声称的专业身份进行拦截,而攻击者可直接伪造身份。研究发现,在12个顶级会议最新129篇论文的防御方案中,该漏洞普遍存在,现有基准测试无法有效识别。

来源:arXiv · AI · arxiv.org