arXiv · ML· Idan Simai, Shauli Ravfogel, Uri Shaham·· 5 小时前AI 评分35
基于条件自编码器的非线性概念擦除与转向框架
Principled Nonlinear Concept Erasure and Steering
AI 导读
该工作提出一种基于条件自编码器的框架,用于实现非线性概念擦除,旨在移除敏感属性同时保留任务相关内容。 方法在完美重建与群体独立性假设下保证了完美非线性防护,在多个数据集、敏感属性和语言模型上取得了优于有监督竞争方法的效用-擦除权衡,且无需目标任务标签,优化更简单、收敛更快。 该框架还作为副产品实现了概念转换(表示转向),仅需在推理时更改目标概念即可生成不同概念值的表示,无需额外训练成本。
来源:arXiv · ML · arxiv.org