Hacker News AI· waprin·· 28 天前AI 评分69
Gray Swan 举办 30 万美元 AI 智能体提示注入安全竞赛
The $300k Competition to Hijack AI Agents
AI 导读
Gray Swan AI 举办总奖金 30 万美元的 Black runs 间接提示注入竞赛,由 Anthropic、Meta 和 Google DeepMind 等机构赞助。竞赛通过 GitHub 维护者、社交媒体等模拟场景,让参与者尝试通过恶意文本诱导 AI 智能体执行违规操作,目前第二周赛事已开启且无需安全背景。
来源:Hacker News AI · aiengineering.report