智谱发布 GLM-5.1高速版API，输出速度达400 tokens/s
智谱面向部分企业客户开放 GLM-5.1高速版API“GLM-5.1-highspeed”，模型输出速度达到400 tokens/s，在完整保留GLM-5.1旗舰能力的基础上实现了低延迟响应。
推荐理由：原文通过实测对比展示了旗舰模型在保持能力前提下实现400 tokens/s低延迟的工程路径，为速度敏感场景提供了可参考的落地方案。
技术方向
推理能力 最新动态
模型推理能力的进展：思维链、推理模型、数学与逻辑基准的突破与争议。
79 条精选近 30 天 51 条共收录 2,232 条
更新
精选归档 · 第 4 页
智谱精选AI 评分7373
DeepSeek精选AI 评分9494 DeepSeek-V4 预览版上线并开源，迈入百万上下文普惠时代
DeepSeek-V4 预览版模型正式上线并同步开源，包含 DeepSeek-V4-Pro 和 DeepSeek-V4-Flash 两个版本。即日起登录官网或官方 App 即可使用 1M 超长上下文，API 服务同步更新，需将 model_name 修改为 deepseek-v4-pro 或 deepseek-v4-flash。
推荐理由：预览版模型同步开源，给出了 API 调用入口和 1M 上下文标配说明，读者可以据此判断它在 Agent 场景中的具体部署方式。
Ahead of AI精选AI 评分7878 DeepSeek V3.2 技术详解：架构、稀疏注意力与强化学习更新
DeepSeek 发布开源旗舰模型 DeepSeek V3.2，架构基于 Multi-Head Latent Attention（MLA）并引入 DeepSeek Sparse Attention（DSA），将注意力计算复杂度从 O(L²) 降至 O(Lk)。
推荐理由：详细拆解 DeepSeek V3.2 及 Math V2 的稀疏注意力与自验证训练技术，读者可据此理解其架构效率与性能提升机制。
DeepSeek精选AI 评分9393 DeepSeek V3.2 正式版：强化 Agent 能力，融入思考推理
DeepSeek 官方发布正式版 DeepSeek-V3.2 和 DeepSeek-V3.2-Speciale 模型。官方网页端、App 和 API 均已更新为正式版 DeepSeek-V3.2；DeepSeek-V3.2 在公开的推理类 Benchmark 测试中达到了 GPT-5 的水平，并推出了首个将思考融入工具使用的模型。
推荐理由：V3.2 将深度思考与工具调用结合并开源，Speciale 达到国际顶级竞赛人类前列水平。
Hugging Face Blog精选AI 评分6262 Hugging Face TRL 新增视觉语言模型多模态对齐方法 MPO、GRPO 和 GSPO
Hugging Face 在 TRL 中新增了针对视觉语言模型（VLM）的多模态对齐方法，包括混合偏好优化（MPO）、群组相对策略优化（GRPO）和群组序列策略优化（GSPO）。这些方法扩展了成对 DPO 的信号提取能力，并支持 RLOO 和 Online DPO。TRL 还集成了 vLLM 以支持在线对齐训练，并提供了原生 SFT 支持及演示笔记本。
推荐理由：原文提供了MPO、GRPO和GSPO在视觉语言模型对齐中的具体实现方法，并给出了训练脚本与vLLM集成支持。
OpenAI精选AI 评分8484 OpenAI 展示 GPT-5 在办公场景中的应用演示
OpenAI 发布了 GPT-5 办公场景演示视频，展示了模型分析反馈、创建产品计划及原型以及总结下一步计划的能力。
推荐理由：官方演示直观展示了 GPT-5 在反馈分析、产品规划与原型生成方面的能力。
Hugging Face Blog精选AI 评分8686 OpenAI 发布 GPT OSS 开源模型：117B 与 21B 两款 MoE 模型
OpenAI 发布 GPT OSS 系列开源模型，包括 gpt-oss-120b（117B 参数）和 gpt-oss-20b（21B 参数）。两款均为 MoE 架构，采用 MXFP4 4-bit 量化；120B 模型可运行在单张 80GB H100 上，20B 模型仅需 16GB 显存。
推荐理由：两个模型都采用 MoE 加 4-bit 量化，小模型 21B 可跑在 16GB 硬件上，Apache 2.0 许可让社区能直接复用与微调。
Hugging Face Blog精选AI 评分7373 Hugging Face 发布完全开源的 SmolLM3 模型
Hugging Face 发布 3B 参数规模的 SmolLM3 模型，包括 Base 和 Instruct 两种变体，完全开源模型权重、架构细节和三阶段预训练配方。
推荐理由：Hugging Face 发布并完全开源 SmolLM3 模型及完整训练配方，为构建同类 3B 模型提供了可复现的工程蓝图。
Hugging Face Blog精选AI 评分8686 DeepSeek-V3 0324 模型更新解析与使用指南
DeepSeek-V3 0324 模型发布，其性能在 MMLU-Pro、GPQA 和 AIME 等基准上均优于前代版本，整体能力接近 GPT-4.5 并超过 Claude Sonnet 3.7。
推荐理由：给出了DeepSeek-V3 0324的基准对比与优化方法推测，并提供了量化和部署指引。
OpenAI精选AI 评分9292 OpenAI 发布 o1 模型及开发者新工具
OpenAI 正式发布 o1 模型，重点提升复杂推理能力。同时推出了 Realtime API 改进和新微调方法，旨在增强开发者的工具可用性。
推荐理由：OpenAI 官方宣布推出 o1 模型及实时 API 改进，同时引入新的微调方法，为开发者提供了处理复杂推理任务和更灵活定制的基础能力。
Hugging Face Blog精选AI 评分8282 MoE 混合专家架构全面解析
Hugging Face 发布技术博客解析混合专家（MoE）模型，以 Mixtral 8x7B 为例拆解 MoE 的路由、稀疏性、训练稳定性和部署优化。文章详细讲解了 Gate 网络的路由逻辑、负载均衡损失，并指出 MoE 在推理时具有更高速度但需要高 VRAM 加载所有参数，微调容易过拟合但适合高频指令调优。
推荐理由：结合 Mixtral 8x7B 的背景，拆解 MoE 的路由、稀疏性、训练稳定性和部署优化逻辑，是掌握大模型架构的实用材料。
Hugging Face Blog精选AI 评分7676 Optimum-NVIDIA 库发布：通过一行代码和 FP8 量化实现 LLM 推理加速
Hugging Face 发布 Optimum-NVIDIA 推理库，支持在 NVIDIA 平台上通过修改一行代码启用 FP8 量化，实现最高 28 倍推理加速和 1200 tokens/s 的吞吐量。
推荐理由：提供了从 Transformers 迁移至 Optimum-NVIDIA 的代码对比，展示了 FP8 量化在降低首字延迟和提升吞吐量方面的具体收益。
OpenAI精选AI 评分8181 OpenAI 在 DevDay 发布 GPT-4 Turbo、Assistants API 等新产品
OpenAI 在 DevDay 发布 GPT-4 Turbo、128K 上下文版本、Assistants API、GPT-4 Turbo with Vision、DALL·E 3 API 及更低价模型。
Mistral AI精选AI 评分9393 Mistral 7B 发布
Mistral AI 发布 Mistral 7B，这是一个 7.3B 参数的大语言模型，采用 Apache 2.0 许可协议，可在本地、HuggingFace、vLLM 等环境中部署使用。
推荐理由：官方给出 7.3B 模型相对 Llama 2 13B 的推理、代码表现和部署路径，可作为 7B 级开源模型能力对比的参照。
Hugging Face Blog精选AI 评分6363 Hugging Face 详解 RLHF（基于人类反馈的强化学习）原理与开源实现
RLHF 利用人类反馈直接优化大语言模型，使其对齐复杂的人类价值观。该流程包含预训练语言模型、收集数据并训练奖励模型、使用 PPO 强化学习微调语言模型三个核心步骤。Hugging Face 介绍了当前活跃的开源工具 TRL、TRLX 和 RL4LMs，并梳理了该领域的发展脉络、现存挑战及后续方向。
推荐理由：将多模型协同训练的复杂机制拆解为三阶段并梳理开源工具，帮助读者建立对RLHF完整管线的实操理解。
Hugging Face Blog精选AI 评分8181 Hugging Face 发布 SetFit 框架，实现无 Prompt 的高效少样本微调
Hugging Face 联合 Intel Labs 和 UKP Lab 推出 SetFit 框架，用于 Sentence Transformers 的高效少样本微调。
推荐理由：通过对比不同模型的训练成本与精度，展示了高效微调在少样本场景下的实际可行性。
Hugging Face Blog精选AI 评分8888 Hugging Face 团队详解 LLM.int8() 实现大型语言模型 8-bit 矩阵乘法的原理与实践
Hugging Face 发布技术教程，结合 transformers、accelerate 和 bitsandbytes 库讲解 LLM.int8() 在大模型部署中的应用。文章通过 BLOOM-176B 和 OPT-175B 的测试数据证明，LLM.int8() 能在保持 FP16 推理性能的前提下将显存占用降低 4 倍，且针对小模型（如 T5-3B）的推理延迟优化策略也已同步更新。
推荐理由：Hugging Face 团队详细拆解了 LLM.int8() 的底层原理与集成实践，读者可借此实现大模型低显存推理的落地。
Hugging Face Blog精选AI 评分6262 Hugging Face 深入解析 Reformer 长序列建模的内存优化技术
Hugging Face 官方博客通过公式推导和基准测试，详细解释了 Reformer 模型如何在低于 8GB 内存限制下处理 50 万 token 序列。文章重点剖析了 LSH 自注意力、分块前馈层、可逆残差层和轴向位置编码四种核心技术，展示了它们分别如何降低 O(n^2) 内存复杂性和训练时的激活存储压力。
推荐理由：原文拆解了 Reformer 四大内存优化组件，并给出基准测试数据，帮助读者理解长序列模型的工程实现取舍。
OpenAI精选AI 评分6363 OpenAI发布进化策略梯度元学习方法
OpenAI发布了一种名为Evolved Policy Gradients (EPG) 的实验性元学习方法。该方法通过进化学习代理的损失函数来实现在全新任务上的快速训练，使得代理在面对超出其训练机制的测试任务时（如在房间不同侧面寻找物体）也能成功执行。
推荐理由：介绍了一种通过进化损失函数来加速新任务训练的实验性元学习方法，其核心价值在于揭示了提升智能体快速适应未知环境能力的技术路径。