跳到正文
Seven Minute Feed·· 3 小时前AI 评分64

Gray Swan 重启红队 Arena,举办 30 万美元提示注入竞赛

Gray Swan relaunches its red-teaming Arena with $300K prompt-injection contest for agents

AI 导读

AI 安全公司 Gray Swan 发布 Arena 2.0 并启动 IPI Black 竞赛,由 Anthropic、Meta、Google DeepMind 和 Reflection AI 赞助,总奖金 30 万美元。竞赛每周更新场景,持续至 11 月 2 日,专门测试网页或帖子中隐藏指令导致的 Agent 间接提示注入,测试在受监控的沙箱环境中运行。

来源:Seven Minute Feed · fortune.com