2026 年初 10 款开源 LLM 架构演进盘点
文章梳理了 2026 年 1 月至 2 月发布的 10 款开源权重 LLM(Arcee Trinity、Kimi K2.5、GLM-5、Qwen3.5、Ling 2.5 等)及 3 月更新的 Sarvam,深度对比了模型架构差异与性能基准。内容指出各模型在注意力机制上多采用混合设计与效率优化,且多模态支持逐渐成为大参数开源模型的标准配置。
文章梳理了 2026 年 1 月至 2 月发布的 10 款开源权重 LLM(Arcee Trinity、Kimi K2.5、GLM-5、Qwen3.5、Ling 2.5 等)及 3 月更新的 Sarvam,深度对比了模型架构差异与性能基准。内容指出各模型在注意力机制上多采用混合设计与效率优化,且多模态支持逐渐成为大参数开源模型的标准配置。
OpenAI 发布 GPT-5.3-Codex-Spark,这是其首个实时编码模型。该模型生成速度提升 15 倍,支持 128k 上下文窗口,目前处于 ChatGPT Pro 用户的研究预览阶段。
推荐理由:原文给出了 15 倍生成速度、128k 上下文窗口和 ChatGPT Pro 用户研究预览等关键规格,读者可以据此判断实时编码模型的能力边界。
OpenAI 分享其 AI 本地化方法,展示如何将全球共享的前沿模型适配于当地语言、法律和文化,且不牺牲安全性。
OpenAI 发布 GPT-5.3-Codex 的 System Card。该模型被描述为迄今能力最强的 agentic 编码模型,结合 GPT-5.2-Codex 的前沿编码性能与 GPT-5.2 的推理和专业知识能力。
OpenAI 发布 GPT-5.3-Codex,定位为 Codex 原生智能体,兼具前沿编码能力与通用推理能力,用于支持长程真实技术工作。
推荐理由:官方直接给出新模型定位,读者可据此判断其面向的长程技术任务场景。
DeepSeek 官方发布正式版 DeepSeek-V3.2 和 DeepSeek-V3.2-Speciale 模型。官方网页端、App 和 API 均已更新为正式版 DeepSeek-V3.2;DeepSeek-V3.2 在公开的推理类 Benchmark 测试中达到了 GPT-5 的水平,并推出了首个将思考融入工具使用的模型。
推荐理由:V3.2 将深度思考与工具调用结合并开源,Speciale 达到国际顶级竞赛人类前列水平。
OpenAI 推出 gpt-oss-safeguard,这是一系列开放权重的推理模型,用于安全分类。该模型允许开发者应用并迭代自定义策略。
OpenAI 发布 Sora 2 系统卡,介绍其作为最新视频和音频生成模型的能力。Sora 2 在物理准确性、画面真实感、音频同步、可控性以及风格范围上较前代有所提升。
OpenAI 发布 Sora 2,这是支持同步对话和音效的视频生成模型。旧版 Sora 产品已停止服务。
DeepSeek 正式发布 V3.2-Exp 实验性模型,在保持 V3.1-Terminus 性能基本持平的前提下,通过引入 DeepSeek Sparse Attention 提升了长文本的训练和推理效率。官方 App 与 API 已同步更新,开发者调用 API 的成本降低 50% 以上,模型权重与 TileLang、CUDA 算子已在 HuggingFace、魔搭及 GitHub 开源。
推荐理由:DeepSeek 发布 V3.2-Exp 并引入稀疏注意力机制,同步将 API 调用成本降低 50% 以上。
DeepSeek 将 DeepSeek-V3.1 更新至 DeepSeek-V3.1-Terminus 版本,优化语言一致性并增强 Code Agent 与 Search Agent 能力。目前官方 App、网页端、小程序与 DeepSeek API 模型均已同步更新。开源版本可通过 Hugging Face 和 ModelScope 下载。
OpenAI 发布 GPT-5 系统卡增补,介绍专为 Codex 中 Agentic 编码优化的模型 GPT-5-Codex。该模型能根据任务复杂度动态调整推理投入,对简单查询快速响应,对复杂任务则独立工作更长时间。
WRITER 团队发布 Palmyra-mini 系列三款开源模型,参数规模在 1.5B 到 1.7B 之间。palmyra-mini-thinking-a 模型在 GSM8K 基准测试中得分 82.87%。该系列模型采用 CoT 方法训练,支持 GGUF 和 MLX 量化版本。
Hugging Face 发布 mmBERT,这是基于 ModernBERT 架构改进的新一代多语言编码器模型。模型在 3T 多 token 数据上训练,覆盖 1800 多种语言,在 XTREME 和 MTEB 基准上显著优于 XLM-R,推理吞吐量提升 2-4 倍。官方提供了模型权重、代码示例及微调教程,支持向 Sentence Transformers 和 PyLate 等生态兼容。
Google 发布 EmbeddingGemma,这是一个 308M 参数、支持 100 多种语言的端侧嵌入模型。该模型在 MTEB 多语言基准测试中表现领先,且量化后内存占用低于 200MB。它兼容 Sentence Transformers、LangChain 等主流框架,并支持在浏览器或本地环境中部署,便于构建移动设备上的检索增强生成(RAG)和智能体应用。
推荐理由:EmbeddingGemma 在 308M 参数和 2K 上下文窗口下支持 100 余种语言,为端侧 RAG 和 Agent 场景提供了轻量化嵌入方案。
OpenAI 发布高级语音到语音模型 gpt-realtime 及 Realtime API 更新。新能力包括 MCP server 支持、图像输入以及 SIP 电话呼叫支持。
推荐理由:OpenAI 发布 gpt-realtime 模型,新增图像输入与 SIP 电话支持,扩展了实时语音交互的技术边界。
NVIDIA 发布 9B 参数的 Nemotron Nano 2,采用 Transformer–Mamba 混合架构,端侧部署最高 6 倍 token 生成速度,支持配置 thinking budget,推理成本最多降低 60%。
Hugging Face 团队开源了基于 DeepSeek-R1 范式且兼容 Verl 的 Kimina Prover RL 训练流水线。该流水线发布了 1.7B 和 0.6B 两个参数规模的模型,二者在 MiniF2F 基准测试中分别取得 76.63% 和 71.30% 的 Pass@32 成绩。这两个模型均刷新了相应参数量级开源模型在 Lean 4 形式化定理证明任务上的性能纪录。
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开源权重模型,这是自 2019 年 GPT-2 以来其首个全开源权重大模型。
GPT-5 是 OpenAI 最先进的模型,标志着企业 AI、自动化和劳动力生产力转型进入智能工作新时代。该模型旨在通过提升智能工作流程,全面变革企业的自动化能力与生产力水平。
OpenAI 发布 GPT-5 并展示其在编码与设计领域的应用。官方说明该模型解锁了这两个场景下的新可能性。
GPT-5 被用于医学研究。
OpenAI 发布了 GPT-5 办公场景演示视频,展示了模型分析反馈、创建产品计划及原型以及总结下一步计划的能力。
推荐理由:官方演示直观展示了 GPT-5 在反馈分析、产品规划与原型生成方面的能力。
OpenAI 发布 GPT-5 系统卡片,说明统一模型路由系统如何结合 gpt-5-main、gpt-5-thinking 及轻量版本(如 gpt-5-thinking-nano),针对不同任务与开发者使用场景提供快速且智能的响应。
推荐理由:官方说明揭示 GPT-5 基于路由系统的多模型架构,读者可据此了解不同任务场景下的模型分工逻辑。
顶尖开发者首次使用 GPT-5。OpenAI 展示了这群领先开发者如何在实际应用中体验 GPT-5。该视频呈现了 GPT-5 的首次亮相。
OpenAI 发布 GPT OSS 系列开源模型,包括 gpt-oss-120b(117B 参数)和 gpt-oss-20b(21B 参数)。两款均为 MoE 架构,采用 MXFP4 4-bit 量化;120B 模型可运行在单张 80GB H100 上,20B 模型仅需 16GB 显存。
推荐理由:两个模型都采用 MoE 加 4-bit 量化,小模型 21B 可跑在 16GB 硬件上,Apache 2.0 许可让社区能直接复用与微调。
Hugging Face 发布 Ettin 系列开源模型,基于 ModernBERT 训练配方同时训练 17M-1B 参数的编码器(MLM)和解码器(CLM),使用完全相同的 2T token 数据和架构,实现 SoTA 对比。
月之暗面团队发布基于 Qwen2.5-72B 和 Kimi k1.5 RL 管线训练的定理证明模型 Kimina-Prover-72B,开源了 8B 和 1.7B 蒸馏版本。该模型引入测试时强化学习搜索与错误修复机制,在 miniF2F 基准测试中达到 92.2% 的通过率,刷新 SOTA 记录。
summary_zh: Numina & Kimi Team 发布基于 Qwen2.5-72B 的定理证明模型 Kimina-Prover-72B,在 miniF2F 基准测试中达到 92.2% 的 SOTA 通过率。
Hugging Face 发布 3B 参数规模的 SmolLM3 模型,包括 Base 和 Instruct 两种变体,完全开源模型权重、架构细节和三阶段预训练配方。
推荐理由:Hugging Face 发布并完全开源 SmolLM3 模型及完整训练配方,为构建同类 3B 模型提供了可复现的工程蓝图。
Gemma 3n 正式发布,支持本地运行多模态输入。该模型分为 E2B 和 E4B 两个版本,实际参数为 5B 和 8B,但显存占用仅相当于 2B 和 4B 模型,分别只需 2GB 和 3GB 显存。
推荐理由:Gemma 3n 以 2B/4B 显存实现 5B/8B 性能,支持文本、图像、音频和视频多模态输入,并开放主流开源框架支持。
H Company 在 Hugging Face 上发布开源行动视觉语言模型 Holo1 家族和 WebClick 多模态定位基准。
推荐理由:开源Holo1行动VLM家族与Surfer-H代理给出可对比的成本和精度基准,读者可评估网页自动化的落地门槛。
NVIDIA 在 GTC 2025 大会上发布了三项开源成果:Cosmos Transfer 世界基础模型、15TB 物理 AI 数据集以及通用类人推理模型 Isaac GR00T N1。
推荐理由:NVIDIA 在 GTC 2025 开源了 Cosmos Transfer 与 Isaac GR00T N1 模型及数据集,为开发者提供了训练具身智能体的完整工具链。
Google 发布 Gemma 3 开源权重 LLM,包括 1B、4B、12B、27B 参数版本,上下文窗口从 Gemma 2 的 8k 提升至最高 128k tokens。
推荐理由:Gemma 3 支持 128k 上下文和 140 余种语言,并能在 Hugging Face 生态当日通过 pipeline 或 llama.cpp 完成推理部署。
Cohere 开放 Aya Vision 8B 和 32B 权重,支持 23 种语言的图像理解、视觉问答与图文翻译。模型基于 SigLIP2-patch14-384 视觉编码器和 Aya Expanse 语言底座,通过 4 倍 Pixel Shuffle 下采样降低多模态输入开销。
推荐理由:模型在开放权重下支持 23 种语言视觉任务,并配合评测基准发布,可直接复用于多语言视觉落地。
Google 发布 SigLIP 2 多语言视觉语言编码器,作者团队在 SigLIP 的 sigmoid loss 之上叠加解码器、全局-局部自蒸馏和掩码预测等辅助目标,以提升语义理解、定位和密集特征能力。
推荐理由:作者拆解了 SigLIP 2 相对 SigLIP 新增的多项训练目标与动态分辨率变体,并给出可直接运行的推理与对比方法。
Hugging Face 发布 SmolVLM2 多模态模型家族,包含 2.2B、500M 和 256M 三个尺寸,用于视频理解任务。2.2B 模型在 Video-MME 基准上超过现有 2B 级别模型;500M 版本支持在 iPhone 本地运行;所有模型均可通过 Transformers 和 MLX 框架进行推理和微调。
推荐理由:SmolVLM2 提供 2.2B、500M 和 256M 三种尺寸视频模型并支持端侧运行,读者可按设备内存直接评估部署门槛。
Google 发布 PaliGemma 2 mix,这是一组在多种视觉语言任务上微调的指令型视觉语言模型,覆盖 3B、10B 和 28B 规模。文章展示了其处理开放式任务提示和检测定位任务的方式,并提供了通过 Transformers 进行推理的代码和在线演示。
推荐理由:文章解释了 mix 变体如何作为预训练模型的下游能力参考,并给出可运行的推理示例。
OpenAI 正式发布 o1 模型,重点提升复杂推理能力。同时推出了 Realtime API 改进和新微调方法,旨在增强开发者的工具可用性。
推荐理由:OpenAI 官方宣布推出 o1 模型及实时 API 改进,同时引入新的微调方法,为开发者提供了处理复杂推理任务和更灵活定制的基础能力。
PaliGemma 2 是由 Google 推出的新一版视觉语言模型,文章作为官方发布介绍。