arXiv · AI· Sabrina Tang, Nikolai Vo, Carson Murillo, Chira Sukumarnpiti, Sarah Wilson·· 4 天前AI 评分21
预防性人格转向的安全副作用:基于经验审计的实证研究
Safety Side Effects of Preventative Persona Steering: An Empirical Audit
AI 导读
研究发现预防性人格转向虽能保留 MMLU 准确性,但会改变模型拒绝行为,且改变程度取决于目标特征。 研究在三个模型上评估谄媚与幻觉向量的转向效果,同时测量三项安全基准。 这表明该方法并非安全中立,建议评估转向方法时需包含多项安全基准。
来源:arXiv · AI · arxiv.org