Hacker News AI· wondersky·· 3 天前精选AI 评分84
Bruce Schneier 团队实测:开源 AI 模型易受后门攻击
Backdooring Open-Weight AI Models
AI 导读
Bruce Schneier 团队通过实验证明,仅使用开源基础模型、公开数据和租用 GPU,即可在 1.5B 至 7B 参数量的开源模型中植入后门。攻击者可利用远程 URL 控制模型行为,使模型在响应正常请求时窃取凭证,而难以被常规评估察觉。
推荐理由
作者实测了在小模型中植入隐蔽后门的路径,展示了供应链攻击在 AI 领域的具体风险。
来源:Hacker News AI · schneier.com