arXiv · ML· Ankush Checkervarty·· 2026-10-09AI 评分28
激活探针所需合成数据量由覆盖率而非难度决定
Coverage, Not Difficulty, Sets How Much Synthetic Data an Activation Probe Needs
AI 导读
激活探针训练所需合成样本量由概念覆盖率决定,而非生成难度。 在高利害和有害回复概念下,Gemma-3-27B-IT 探针仅需 80 个样本即可接近性能上限。指令遵循类探针需要的样本量显著更多,差异主要源于不同类别样本间的迁移能力差异。
来源:arXiv · ML · arxiv.org