跳到正文
arXiv · ML· Riya Tyagi, Stefan Heimersheim·· 21 天前AI 评分36

少量正样本下激活探针在垃圾邮件与诚实度检测中的可靠性研究

Activation Probes Are Reliable With a Handful of Positive Examples

AI 导读

研究显示,在处理极少(1-10个)正样本的监控任务中,利用大量负样本进行训练比平衡训练更具备正样本效率。LLM 过采样技术可显著提升性能,效果相当于将真实正样本数量翻倍,但过度使用会降低表现。该发现表明应利用丰富的负样本资源来放大稀有关键误对齐案例的信号。

来源:arXiv · ML · arxiv.org