跳到正文
arXiv · NLP· Nimet Beyza Bozdag, Emre Can Acikgoz, Gokhan Tur, Dilek Hakkani-T\"ur·· 11 天前AI 评分38

Learning to Persuade 揭示 LLM 轻易放弃正确信念的机制

Learning to Persuade Exposes How Easily LLMs Abandon Correct Beliefs

AI 导读

研究通过对抗强化学习训练说服者,将 LLM 的说服成功率从约 24% 提升至 93% 以上,即使论点错误也能使模型准确率趋近于零。 该策略在四个分布外基准上保持 89-95% 成功率,在 Qwen-14B 和 Llama-3.1-8B 上分别达到 83% 和 79%,但在 GPT-5-mini 上仅 4%。

来源:arXiv · NLP · arxiv.org