LessWrong · All Posts· hiblick·· 8 天前AI 评分50
AI 安全问题本质上是社会工程问题
AI Security Issues Are Social Engineering Issues
AI 导读
当前 AI 安全危机被定义为“黑十月”,LLM 发现的漏洞正大规模爆发。模型同时引入了提示注入这一新型安全弱点。 提示注入源于 LLM 执行输入指令的特性,而人类长期以来是易被恶意利用的脆弱系统。 黑客利用人类心理与社会工程手段持续进行攻击。
来源:LessWrong · All Posts · lesswrong.com