arXiv · NLP· Adel Khorramrouz, Yi-Chia Wang, Sharon Levy·· 2026-10-15AI 评分40
基于道德基础理论的 LLM 越狱多智能体框架 Moral Combat 发布
Moral Combat: Exploiting Moral Foundations Theory to Jailbreak LLMs
AI 导读
研究人员发布基于道德基础理论(MFT)的多智能体框架 Moral Combat,用于通过道德重构越狱 LLM。 该框架在三个越狱数据集上测试五个模型,发现单次越狱率极高且重复尝试成功率增加。 研究发现安全基准在道德基础上分布不均,且现有安全护栏易被此类策略绕过。
来源:arXiv · NLP · arxiv.org