arXiv · NLP· Peter Schneider-Kamp, Jacob Nielsen, Gianluca Barmina, Danial Namazifard, Annemette Brok Pirchert, Kenneth Enevoldsen, Lukas Galke Poech·· 4 小时前AI 评分33
Mimir：基于可允许数据的层级推理模型
Mimir: A Sub-2B Hierarchical Reasoning Model Trained on Permissible Data Punches Above Its Weight Class
AI 导读
Mimir 1.78B 模型在英语、丹麦语及数学代码基准中表现最优，性能超越 9B 参数模型。 该模型基于 HRM-Text 架构，使用 103B tokens 从随机初始化直接训练，无需大规模预训练。 两项独立审计表明其记忆风险低，层级递归架构有效。
来源：arXiv · NLP · arxiv.org