跳到正文
arXiv · AI· Paschalis Giakoumoglou, Manos Schinas, Symeon Papadopoulos·· 2026-10-06AI 评分36

文本到图像模型的有害内容生成:能力与审核局限

Harmful Content Generation in Text-to-Image Models: Capabilities and Moderation Limitations

AI 导读

一项系统评估显示,五个开源文本到图像模型在将正常新闻标题改写为不安全提示词后,有害内容生成率最高达 89.2%(血腥暴力类),性露骨内容为 47.6%。 研究覆盖性露骨、暴力血腥、有害刻板印象、自残与仇恨言论五类,社区微调变体尤其易被性露骨提示词突破;FLUX.1-dev 有 30.9% 的案例生成明显逼真的有害图像。

来源:arXiv · AI · arxiv.org