arXiv · AI· NaHyeon Park, Minhyun Lee, Hyunjung Shim·· 2026-10-05AI 评分28
CALM 分析文生图全局不安全假设的局限性并提出局部反事实修正方法
Keep It CALM: Analyzing the Limits of Global Unsafety in Text-to-Image Generation
AI 导读
针对文生图免训练安全机制中“全局毒性子空间”假设存在的覆盖度与选择性权衡问题,研究团队提出 CALM(Counterfactual Adaptive Local Modulation)方法。该方法通过提示词局部反事实修正替代均匀的全局移除,在抑制不安全内容的同时更好地保留了良性效用,为全局不安全信号移除提供了更具选择性的替代方案。
来源:arXiv · AI · arxiv.org