arXiv · AI· Qi Xu, Zijie Lei, Zhifei Deng, Zhigang Hua, Luke Simon·· 1 天前AI 评分36
预训练容量何时助力因果学习？从标量预测到反事实后训练
When Does Pre-Trained Capacity Help Causal Learning? From Scalar Prediction to Counterfactual Post-Training
AI 导读
summary_zh: 基于 Qwen 2.5 构建的 CausalLLM 与 CausalGen 系统显示，将主干模型规模从 0.5B 增至 1.5B 使 CodeGen pass@1 从 0.267 提升至 0.575，治疗效应得分从 0.231 升至 0.515。
来源：arXiv · AI · arxiv.org