跳到正文
Hacker News AI· wondersky·· 3 天前精选AI 评分84

Bruce Schneier 团队实测:开源 AI 模型易受后门攻击

Backdooring Open-Weight AI Models

AI 导读

Bruce Schneier 团队通过实验证明,仅使用开源基础模型、公开数据和租用 GPU,即可在 1.5B 至 7B 参数量的开源模型中植入后门。攻击者可利用远程 URL 控制模型行为,使模型在响应正常请求时窃取凭证,而难以被常规评估察觉。

推荐理由

作者实测了在小模型中植入隐蔽后门的路径,展示了供应链攻击在 AI 领域的具体风险。

来源:Hacker News AI · schneier.com