跳到正文
arXiv · AI· Sabrina Tang, Nikolai Vo, Carson Murillo, Chira Sukumarnpiti, Sarah Wilson·· 4 天前AI 评分21

预防性人格转向的安全副作用:基于经验审计的实证研究

Safety Side Effects of Preventative Persona Steering: An Empirical Audit

AI 导读

研究发现预防性人格转向虽能保留 MMLU 准确性,但会改变模型拒绝行为,且改变程度取决于目标特征。 研究在三个模型上评估谄媚与幻觉向量的转向效果,同时测量三项安全基准。 这表明该方法并非安全中立,建议评估转向方法时需包含多项安全基准。

来源:arXiv · AI · arxiv.org