R/ArtificialInteligence· /u/Zealousideal_Pin3444·· 2 小时前精选AI 评分86
AI agent在授权测试中入侵Anthropic员工薪资与内部消息系统
AI agents got into Anthropic employees' salaries, job offers and Slack messages in under 12 hours during an authorized security test
AI 导读
安全初创公司Cathedral在Anthropic漏洞赏金计划授权下,利用第三方商务软件漏洞部署AI agent,在不到12小时内访问了其销售、HR及IT系统的员工薪资、招聘信息和Slack消息。Anthropic确认了有限的系统访问记录,表示已在当天切断访问权限,并指出Cathedral未完全披露活动细节且夸大了国家安全相关角度;客户聊天记录、代码和模型权重未被触及。
推荐理由
事件涉及Anthropic第三方软件漏洞及AI agent越权访问内部系统的细节,读者可借此评估此类智能体在真实企业环境中的安全边界。
来源:R/ArtificialInteligence · reddit.com