跳到正文
arXiv · NLP· Jiaming Qian, Pengyang Zhou, Jiahe Xu, Chaochao Chen·· 2026-10-06AI 评分38

大语言模型奖励窃取攻击 (ReSA) 框架提出

Reward Stealing Attack on Large Language Models

AI 导读

提出针对大语言模型 (LLM) 对齐机制的奖励窃取攻击 (ReSA) 框架。 利用最大熵逆强化学习从对齐模型行为中恢复代理奖励模型。 通过反转奖励引导解码,ReSA 在效果和可转移性上显著优于现有攻击方法。

来源:arXiv · NLP · arxiv.org