跳到正文
arXiv · ML· Jonas J\"ur{\ss}, Pietro Li\`o·· 2026-10-05AI 评分20

数据集偏差导致隐性知识迁移:基于 Sentence-BERT 嵌入特征的检测方法研究

Towards Identifying the Dataset Biases Causing Phantom Transfer

AI 导读

针对教师模型向过滤后数据集隐性传递偏差且数据级防御失效的问题,研究团队通过 Sentence-BERT 嵌入差异与开放词汇对比构建偏差签名。该签名在已知教师模型时识别偏差主题的 Matthews 相关系数达 0.83,未知时为 0.46。研究还发现不同教师模型表达相同偏差的词汇存在差异。

来源:arXiv · ML · arxiv.org