arXiv · AI· Kaiwen Duan, Hongwei Yao, Yufei Chen, Ziyun Li, Tong Qiao, Zhan Qin, Cong Wang·· 8 小时前AI 评分32
对齐幻觉：BadReward 如何破坏文本到图像生成
The Alignment Illusion: How BadReward Corrupts Text-to-Image Generation
AI 导读
研究者提出间接 clean-label 投毒攻击 BadReward，通过操纵奖励信号在 RLHF 阶段破坏文本到图像模型的安全性。 该攻击利用特征碰撞生成视觉上良性但奖励空间对齐恶意目标的偏好图像对，实验显示不同 RLHF 算法下均具有高攻击成功率。
来源：arXiv · AI · arxiv.org