跳到正文
arXiv · NLP· Subhadip Mitra·· 10 天前AI 评分46

Gemma 跨代安全对齐非单调性:一项质量-多样性红队测试研究

Non-Monotonic Safety Alignment Across Gemma Generations: A Quality-Diversity Red-Teaming Study

AI 导读

Gemma 3 (12B) 的越狱成功率最高,达 33.7%,高于 Gemma 2 和 Gemma 4,显示 LLM 安全对齐未随代际单调提升。 红队测试使用 MAP-Elites 进化算法,发现有害攻击成功率在代际间转移率低(1.4%-7.9%),且网络犯罪在 Gemma 4 中大幅下降至 2%。

来源:arXiv · NLP · arxiv.org