跳到正文
R/ArtificialInteligence· /u/rsvallen·· 2026-10-15AI 评分33

未修补且灾难性的 AI 命令接口问题

The unpatched & catastrophic AI command interface problem

AI 导读

作者指出当前 LLM 仅通过上下文交互的安全管线存在致命漏洞,易受反向工程与提示注入攻击。通过设计“ Freelance Scammer 3000”等自动化恶意工具实例,展示了利用 MCP 自动化欺诈的可行性。文章主张应放弃黑名单模式,转而通过白名单机制限制非确定性模型的操作权限。

来源:R/ArtificialInteligence · reddit.com