跳到正文
LessWrong · All Posts· hiblick·· 8 天前AI 评分50

AI 安全问题本质上是社会工程问题

AI Security Issues Are Social Engineering Issues

AI 导读

当前 AI 安全危机被定义为“黑十月”,LLM 发现的漏洞正大规模爆发。模型同时引入了提示注入这一新型安全弱点。 提示注入源于 LLM 执行输入指令的特性,而人类长期以来是易被恶意利用的脆弱系统。 黑客利用人类心理与社会工程手段持续进行攻击。

来源:LessWrong · All Posts · lesswrong.com