arXiv · ML· Angela Tang, Vishesh Anand, Gon\c{c}alo Paulo·· 4 小时前AI 评分23
Tracing Subliminal Learning Through Pretraining: A Study on Distillation Settings
Tracing Subliminal Learning Through Pretraining
AI 导读
大语言模型在由其他模型生成的数据上训练时，有时会继承与数据无关的特征，这种现象被称为潜意识学习（subliminal learning）。
来源：arXiv · ML · arxiv.org