arXiv · NLP· Ruohao Guo, Wei Xu, Alan Ritter·· 3 小时前AI 评分42
HarmAmp 基准与 TrajSafe 缓解 LLM 交互中的危害放大
Investigating and Alleviating Harm Amplification in LLM Interactions
AI 导读
summary_zh: 研究提出包含十二类风险场景的多轮交互基准 HarmAmp，并发布主动监控器 TrajSafe。 TrajSafe 通过探查用户真实意图及引导模型完成更安全回复，显著降低多轮交互中的危害。
来源：arXiv · NLP · arxiv.org