3LM:面向阿拉伯语大模型 STEM 与代码生成的基准评测
Hugging Face 发布首个针对阿拉伯语大模型在 STEM 和代码生成领域的多组件基准 3LM。该基准包含 865 道本土 STEM 题、1744 道合成 STEM 题及汉化的 HumanEval+ 与 MBPP+ 代码数据集。评测 40 多个模型,GPT-4o 在代码任务中表现最佳,Qwen2.5-72B-Instruct 在 STEM 多选题中领先。
Hugging Face 发布首个针对阿拉伯语大模型在 STEM 和代码生成领域的多组件基准 3LM。该基准包含 865 道本土 STEM 题、1744 道合成 STEM 题及汉化的 HumanEval+ 与 MBPP+ 代码数据集。评测 40 多个模型,GPT-4o 在代码任务中表现最佳,Qwen2.5-72B-Instruct 在 STEM 多选题中领先。
Gradio 通过 MCP 集成将 Python 函数自动转换为 LLM 工具,支持调用 Hugging Face Hub 上的模型。该方案构建 AI 购物助手,结合 IDM-VTON 扩散模型实现虚拟试穿,并通过 VS Code 的 Playwright MCP 浏览网页寻找衣物。
Hugging Face 发布开源免费的 Python 实验追踪库 Trackio,支持本地 Gradio 仪表盘和无缝同步到 Hugging Face Spaces 以便分享协作。其 API 兼容 Wandb,用户可通过 pip 安装后直接替换 import 语句开始使用,同时原生集成 Transformers 和 Accelerate,核心代码量少于 1000 行。
Hugging Face 宣布将 CLI 工具正式从 huggingface-cli 更名为 hf,旨在优化命令结构以提升可用性。新 CLI 遵循统一语法规范,并同步推出了 hf jobs 服务。该服务允许用户在 Hugging Face 基础设施上按需运行脚本或 Docker 镜像,采用秒级计费模式,目前仅面向 Pro 用户及 Team 或 Enterprise 组织开放。
Diffusers 结合 PEFT 发布针对 Flux 图像生成模型的 LoRA 快速推理优化方案,通过 Flash Attention 3、torch.compile、FP8 量化以及新的 LoRA 热交换机制避免重编译问题,在 H100 上实现 2.23 倍加速。
Hugging Face 开源视频基准 TimeScope,通过向 1 分钟至 8 小时的长视频中插入 5-10 秒的短片段,测试模型在定位检索、信息综合和细粒度时间感知三项任务上的表现。基准结果显示,即使是如 Gemini 2.5-Pro 等声称支持长视频的模型,在处理真实长视频任务时仍面临显著挑战。
NVIDIA 宣布其 NIM 推理微服务现已支持在 Hugging Face 平台上快速部署超过 100,000 个 LLM。NIM 提供单一 Docker 容器,自动识别模型架构与量化格式,并适配 TensorRT-LLM、vLLM 及 SGLang 等推理后端。
Arc Institute 发布了 Virtual Cell Challenge,要求参赛人员训练一个模型,以预测在(部分)未知细胞类型中基因沉默(通过 CRISPR)的作用,该任务被称为上下文泛化(context generalization)。
Hugging Face 发布新基准 FutureBench,用于评估 AI 智能体预测未来事件的能力,其核心观点是,比复述旧知识更能体现智能的是基于过去知识去预测未来。该基准通过从新闻和预测市场获取实时问题,并要求结果在未来被证实,从而天然避免了数据污染问题。在初始测试中,GPT-4.1 和 Claude 3.7 等不同模型展现了不同的信息搜集和推理策略,揭示了它们在决策路径上的行为差异。
Gradio 5.38.0 发布重大更新,显著增强了 MCP 服务器功能。新版支持远程 MCP 服务器无缝本地文件上传,通过“File Upload”服务器自动处理文件传输。
Consilium 是作者基于 Gradio 和 MCP 构建的多 LLM 协作平台,支持模型通过结构化辩论达成共识。该平台提供扑克桌视觉界面及 MCP 服务,可集成至 Cline 等应用。作者发现为 LLM 分配“专家倡导者”等特定角色能显著提升讨论质量,并实现了环形、星形等通信结构及可配置的辩论轮数。
Hugging Face 发布 Ettin 系列开源模型,基于 ModernBERT 训练配方同时训练 17M-1B 参数的编码器(MLM)和解码器(CLM),使用完全相同的 2T token 数据和架构,实现 SoTA 对比。
月之暗面团队发布基于 Qwen2.5-72B 和 Kimi k1.5 RL 管线训练的定理证明模型 Kimina-Prover-72B,开源了 8B 和 1.7B 蒸馏版本。该模型引入测试时强化学习搜索与错误修复机制,在 miniF2F 基准测试中达到 92.2% 的通过率,刷新 SOTA 记录。
Hugging Face 发布开源的官方 MCP Server,通过单一 URL 让 AI 助手访问 Hub 及数千个 Spaces 应用,并支持动态工具配置。
推荐理由:官方开源了可远程访问的 MCP Server 并详解部署权衡,读者可据此评估将 Hub 接入 AI 助手的可行性。
ScreenEnv 是一个 Python 库,让用户在 Docker 容器中创建隔离的 Ubuntu 桌面环境,用于测试和部署 GUI 智能体。它内置对 MCP(Model Context Protocol)的支持,也可通过直接 Sandbox API 接入自定义后端。
推荐理由:提供 Docker 内 Ubuntu 桌面环境的 Python 库,支持 MCP 接入与 smolagents 集成,读者可评估其用于 GUI 智能体测试与部署的可行性。
Hugging Face 提出异步机器人推理方法,通过解耦动作预测与执行消除推理等待带来的延迟。该系统采用 PolicyServer 和 RobotClient 双进程架构,利用 gRPC 通信实现比 REST API 快 5 倍的传输性能。在 SmolVLA 测试中,该架构在保持相同任务成功率的同时,实现了约 2 倍的完成任务速度提升。
Hugging Face 与 AMD 合作为 MI300X 开发定制开源内核,以加速 VLLM 运行 Llama 3.1 405B FP8 模型的推理性能。通过组合 Fused residual、Fused SwiGLU 和 Skinny GEMM 三个优化内核,在 8 节点 MI300X 上实现了显著的解码延迟降低。
Gradio 应用自 v5.28.0 起支持 MCP 协议,使 Hugging Face Spaces 成为数千个 AI 工具的“应用商店”。文章以 Flux.1 Kontext[dev] 为例,演示了如何将该模型作为 MCP 服务器接入 Cursor 等客户端,实现通过自然语言指令进行图像编辑的功能。
Pollen Robotics 与 Hugging Face 推出开源机器人 Reachy Mini,Lite 版售价 $399。它支持 Python 编程,配备摄像头和麦克风,旨在让开发者和教育者轻松进行创意 AI 实验与人机交互研究。
Hugging Face 发布 3B 参数规模的 SmolLM3 模型,包括 Base 和 Instruct 两种变体,完全开源模型权重、架构细节和三阶段预训练配方。
推荐理由:Hugging Face 发布并完全开源 SmolLM3 模型及完整训练配方,为构建同类 3B 模型提供了可复现的工程蓝图。
Hugging Face 团队针对 nanoVLM 项目构建高效多模态数据管道,通过五个阶段优化以解决 GPU 空闲等待和填充浪费问题。 采用 Knapsack 策略将批次中约 60% 的无效填充 token 降至最低,并引入生产者-消费者模式实现动态批处理。 该方案利用贪婪和二分打包策略平衡 token 与图像数量,显著提升训练效率。
Hugging Face 推出 NeurIPS 2025 E2LM 竞赛,旨在构建能捕捉大型语言模型早期训练阶段(约 200B tokens)推理与科学知识信号的基准。
Sentence Transformers 提供了一套用于微调稀疏嵌入模型的完整流程,涵盖模型、数据集、损失函数及评估器等组件。该库生成的 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 模型成本低,特别适合混合搜索或检索重排场景。
Gemma 3n 正式发布,支持本地运行多模态输入。该模型分为 E2B 和 E4B 两个版本,实际参数为 5B 和 8B,但显存占用仅相当于 2B 和 4B 模型,分别只需 2GB 和 3GB 显存。
推荐理由:Gemma 3n 以 2B/4B 显存实现 5B/8B 性能,支持文本、图像、音频和视频多模态输入,并开放主流开源框架支持。
SGLang 新增 Hugging Face transformers 后端集成,支持以 impl="transformers" 参数运行任何兼容 transformers 的模型并自动回退,无需原生支持即可通过 RadixAttention 获得优化推理性能。
Hugging Face 发布教程,指导使用 diffusers 库和 QLoRA 技术在单卡消费级硬件(如 RTX 4090)上微调 FLUX.1-dev 模型,峰值显存占用低于 10 GB。
推荐理由:文章提供了在消费级硬件上微调FLUX.1-dev的具体代码流程和显存优化技巧,读者可直接复用该方案降低部署门槛。
Hugging Face 宣布 Groq 成为支持的 Inference Provider,接入 HF Hub 的 serverless inference,并与 JS/Python 客户端 SDK 集成。
推荐理由:原文给出了 Groq 在 HF Hub 的新集成入口、支持模型范围与两种计费路由方式,读者可据此判断如何在现有工作流中快速切换推理 provider。
Hugging Face 推出 Kernel Hub,允许通过 kernels 库一行代码加载预编译的优化计算内核,免去本地编译和依赖管理。文章演示了如何用 Triton 优化 RMSNorm 层,在 L4 GPU 上,大 batch 场景下内核版本比 PyTorch 基线快约 1.86 倍,且该库已被 TGI 和 Transformers 项目集成使用。
Hugging Face 团队在其 nanoVLM 仓库中从零实现了 KV Cache,使文本生成速度提升 38%。该优化通过缓存 Key 和 Value 矩阵,避免了自回归生成中的重复计算。
H Company 在 Hugging Face 上发布开源行动视觉语言模型 Holo1 家族和 WebClick 多模态定位基准。
推荐理由:开源Holo1行动VLM家族与Surfer-H代理给出可对比的成本和精度基准,读者可评估网页自动化的落地门槛。
Hugging Face 将 Intel Gaudi 硬件支持直接集成到 Text Generation Inference (TGI) 主代码库,结束维护独立 fork 的局面。
DeepSeek-V3 0324 模型发布,其性能在 MMLU-Pro、GPQA 和 AIME 等基准上均优于前代版本,整体能力接近 GPT-4.5 并超过 Claude Sonnet 3.7。
推荐理由:给出了DeepSeek-V3 0324的基准对比与优化方法推测,并提供了量化和部署指引。
Sentence Transformers 团队发布教程,演示如何在自有数据上微调 cross-encoder reranker 模型。教程覆盖数据集准备、hard negatives mining、loss 函数选择、训练参数与评估器配置等完整流程,并给出从零训练及微调的完整代码示例。
推荐理由:作者给出了可直接复用的微调流程和评测方法,并附上实测对比数据,帮助读者在自己的数据上训练更强 reranker 模型。
Hugging Face 发布的 Gradio 更新了 Dataframe 组件,最近 6 周内修复了超过 70 个问题。新功能包括多单元格选择、行号显示、列固定、复制按钮、全屏模式、顶部滚动、无障碍性改进、增强的样式控制、行/列选择、静态列以及搜索和过滤功能。用户可通过 `pip install --upgrade gradio` 安装最新版本。
本教程演示如何使用 LM Studio 和 VS Code 扩展 Continue.dev,在本地部署并调用开源模型 OlympicCoder 7B 作为编码助手。
推荐理由:文章给出了在本地运行 OlympicCoder 7B 的完整集成流程,帮读者把开源模型接入现有开发工具。
Hugging Face 向白宫科学和技术政策办公室提交回复,主张开源 AI 系统对技术进步至关重要。文中指出 OLMo 2 模型在匹配 o1-mini 性能的同时开放了训练数据,并建议优先支持开放基础设施与高效模型以提升安全性。
NVIDIA 在 GTC 2025 大会上发布了三项开源成果:Cosmos Transfer 世界基础模型、15TB 物理 AI 数据集以及通用类人推理模型 Isaac GR00T N1。
推荐理由:NVIDIA 在 GTC 2025 开源了 Cosmos Transfer 与 Isaac GR00T N1 模型及数据集,为开发者提供了训练具身智能体的完整工具链。
Hugging Face 官方宣布 Xet 存储架构正式在 Hub 上线,并于 2 月 20 日完成首批约 6% 下载流量、总计 4.5TB 模型与数据集仓库的迁移。
推荐理由:Xet 存储正式接入 Hugging Face Hub 并完成首批 4.5TB 仓库迁移,其内容寻址分块机制让多 GB 级模型更新上传耗时从小时级降至秒级。
Google 发布 Gemma 3 开源权重 LLM,包括 1B、4B、12B、27B 参数版本,上下文窗口从 Gemma 2 的 8k 提升至最高 128k tokens。
推荐理由:Gemma 3 支持 128k 上下文和 140 余种语言,并能在 Hugging Face 生态当日通过 pipeline 或 llama.cpp 完成推理部署。
Hugging Face 发布 Open R1 Update #3,公布从 DeepSeek-R1 蒸馏得到近 10 万条高质量 C++ 与 Python 代码推理样本的 CodeForces-CoTs 数据集,并发布基于 IOI 的新基准。
推荐理由:给出了代码推理复现的细节与 7B、32B 模型结果,可参考训练策略与评测方法。