机制可解释性分析揭示虚构越狱有效性机制

研究人员利用机制可解释性框架，成功从两个模型中提取出叙事方向，并构建了相关技术路径。该研究旨在通过解析内部机制，理解为何虚构类越狱提示能绕过模型的安全限制。 团队在1009个真实越狱提示上测试了叙事方向及其他三个方向的引导效果。结果显示，直接抑制叙事方向能显著降低已成功越狱攻击的成功率，证实了该方向在因果机制中的关键作用。 分析进一步发现，故事与角色设定在因果机制上存在明显区别。当引导故事方向时，模型表现为输出模糊内容而非明确拒绝，揭示了不同虚构要素在模型内部处理机制上的差异。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。