跳到正文
Hacker News AI· waprin·· 28 天前AI 评分69

Gray Swan 举办 30 万美元 AI 智能体提示注入安全竞赛

The $300k Competition to Hijack AI Agents

AI 导读

Gray Swan AI 举办总奖金 30 万美元的 Black runs 间接提示注入竞赛,由 Anthropic、Meta 和 Google DeepMind 等机构赞助。竞赛通过 GitHub 维护者、社交媒体等模拟场景,让参与者尝试通过恶意文本诱导 AI 智能体执行违规操作,目前第二周赛事已开启且无需安全背景。

来源:Hacker News AI · aiengineering.report