arXiv · NLP· Leiyue Chen, Meng Wei, Xuefeng Hu, Wei Liu·· 3 小时前AI 评分41
DIAA与ICA：基于干预认证放大的后训练混合方法
Intervention-Certified Amplification: A Validity Gate for $\sigma$-Weighted Post-Training
AI 导读
针对混合后训练中信号失配导致预训练行为被放大的问题，提出基于配对比对目标证据的干预认证放大（ICA）方法。 实验显示，DIAA在移除代码锚点后，TIR输出率仍达29%（MATH-500）；ICA可将TIR率降至13.8%，准确率从47.5%提升至49.3%。 该方法无需重新调参即可泛化至GSM8K，为后训练提供可靠性保障。
来源：arXiv · NLP · arxiv.org