arXiv · ML· Mario Prignano, Gabriele Cirillo, Alessio Morosini, Luca Cerovaz, Alessandro Bartolocci, Emanuele Rodol\`a, Giulio Starace, Francesco Pappone·· 2 天前AI 评分42
Limite 1B - Violetto 技术报告:开源 10 亿参数数学推理模型
Limite 1B - Violetto: Technical Report
AI 导读
Limite 1B - Violetto 是一款专为高吞吐数学推理设计的 10 亿参数模型,基于 2370 亿 token 数学生成语料从零训练。模型支持 131k 上下文长度,结合知识蒸馏、监督微调及 RLVR 进行后训练。
来源:arXiv · ML · arxiv.org