arXiv · ML· Yupeng Chen, Junchi Yu, Aoxi Liu, Baoyuan Wu, Philip Torr, Adel Bibi·· 4 天前AI 评分38
The Alignment Curse:模态对齐通过文本迁移增强音频攻击
The Alignment Curse: Modality Alignment Supercharges Audio Attacks via Text Transfer
AI 导读
该研究提出 Alignment Curse 原则,揭示端到端全模态模型中较强的文本-音频模态对齐会促进文本越狱攻击向音频模态的有效迁移。 通过对 Qwen2.5-Omni 和 Qwen3-Omni 等模型的黑色评估发现,经文本迁移的音频攻击效果与直接音频攻击相当或更优,且在纯音频访问场景下优势明显。
来源:arXiv · ML · arxiv.org