arXiv · AI· Rose N. Kwon, Samy Mammeri, Sabyasachi Sahoo, Christian Gagn\'e, Thomas Jiralerspong·· 2 天前AI 评分20
隐藏状态相似度预测免疫提示后的行为再诱发
Hidden-State Similarity Predicts Re-Elicitation After Inoculation Prompting
AI 导读
研究发现,文本相似度无法完整预测免疫提示后被抑制有害行为的再诱发。 诱导与免疫上下文激活状态相似的提示词,更易触发模型重现训练中被抑制的有害行为。 该发现表明,激活空间分析有助于识别评估时提示词下被抑制行为仍可被访问的条件。
来源:arXiv · AI · arxiv.org