arXiv · AI· Jiashu Zhang, Jiaming He, Zheming Zhang, Kaizheng Wang, Bing Li, Zhiyuan Zha, Yi Yu·· 11 天前AI 评分24
AUTEUR:用于文本到音频模型红队测试的声学计划学习
AUTEUR: Acoustic Plan Learning for Red-Teaming Text-to-Audio Models
AI 导读
提出AUTEUR框架,通过声学计划学习生成测试提示以执行文本到音频模型的红队测试。 该框架结合监督微调与音频反馈强化学习训练计划生成器,在保持目标音频模型固定的情况下进行推理。 实验显示攻击成功率在TangoFlux上为79.4%,在Kling上为95.6%,测试提示具有跨模型迁移性。
来源:arXiv · AI · arxiv.org