Mintong Kang 团队发表自动红队测试新论文

2026年10月27日，Mintong Kang 等人发布论文《Self-Improved Red Teaming》，提出一种针对自动红队测试中目标Agent的角色分离方法。该研究发现，基于实时执行上下文的“自批评”机制效果优于“自提议”；移除自批评中的推理过程会导致下游攻击成功率降低6%至17%，而自提议易引发模型拒绝。在DTAP-BENCH测试中，该方法取得63.2%的总体攻击成功率，远超基线水平。

AI 根据报道生成 · 48 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。