arXiv · ML· Felix Friedrich, Lukas Helff, Niharika Hegde, Patrick Schramowski, Kristian Kersting·· 11 天前AI 评分41
文生图模型中训练数据驱动不安全图像生成研究
No Safe Dose: How Training Data Drives Unsafe Image Generation
AI 导读
控制实验表明,文生图模型输出不安全比例随训练数据中不安全图像占比从 0% 到 9.6% 单调上升,在对抗性提示下达 26.4%。 固定预算下,过滤固定比例(而非绝对数量)同等有效,且不影响 FID 等指标,但过滤后仍存在 13.6% 不安全生成下限。 安全对齐编码器可将下限降至 9.6%,但微调全安全数据会抵消整理收益,显示数据整理与编码器选择需互补。
来源:arXiv · ML · arxiv.org