arXiv · NLP· Jiaming Qian, Pengyang Zhou, Jiahe Xu, Chaochao Chen·· 2026-10-06AI 评分38
大语言模型奖励窃取攻击 (ReSA) 框架提出
Reward Stealing Attack on Large Language Models
AI 导读
提出针对大语言模型 (LLM) 对齐机制的奖励窃取攻击 (ReSA) 框架。 利用最大熵逆强化学习从对齐模型行为中恢复代理奖励模型。 通过反转奖励引导解码,ReSA 在效果和可转移性上显著优于现有攻击方法。
来源:arXiv · NLP · arxiv.org