跳到正文
arXiv · AI· Xurui Li, Kaisong Song·· 2 天前AI 评分34

MACE:基于 MCTS 引导的对抗协同进化 LLM 安全对齐框架

From Strategy Search to Policy Learning: MCTS-Guided Adversarial Co-Evolution for LLM Safety Alignment

AI 导读

提出 MACE 框架,通过 MCTS 引导的对抗协同进化提升 LLM 安全对齐。该框架包含 GS-MCTS 搜索组件与 AC-TGPO 优化组件,实现攻击者与防御者的策略学习。

来源:arXiv · AI · arxiv.org