steering vectors 在模型去偏任务中的表现与局限性

作者针对 steering vectors 在模型去偏中的效果进行了实验分析。在 Colored-MNIST 任务中，基模型准确率接近 0，而使用 ActAdd 方法后准确率提升至 21.4。实验结果显示，基于概念损失的 steering 方法效果优于 ActAdd，且基于 steering vectors 的方法往往未能有效去除偏差，因为模型对概念的理解本身存在偏差。