角色接地攻击：大模型Agent记忆角色归属漏洞

研究人员首次提出角色接地攻击（RGA），通过嵌套对话结构诱导大模型Agent将攻击者偏好错误归属给受害者用户。 RGA具体通过工具选择操纵和隐私泄露两种方式实施，研究在5种主流记忆系统及6种语言模型中验证了其高攻击成功率。 该研究揭示了现有Agent记忆系统在角色到主体归属机制上的脆弱性，进而呼吁业界加强角色接地机制以规避相关安全风险。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。