arXiv · AI· Keuntae Kim, Yong Suk Choi·· 7 小时前AI 评分37
气球效应：封禁一个通道，隐藏特征便流向另一处
A balloon effect: ban one channel and a hidden trait finds another
AI 导读
语言模型可能从其他模型的输出中学到未明言的隐藏特征（如数字列表隐含的动物偏好），封禁表面特征token无法消除该特征，它会转移到格式仍允许的其他位置，这种现象被称为气球效应。
来源：arXiv · AI · arxiv.org