Gradio 实现 Hugging Face Space 可视化水印功能
Hugging Face 宣布在 Gradio 中支持通过单一参数实现生成内容的可视化水印。开发者可为图像和视频添加水印,或直接嵌入包含元数据的 QR 码。文本生成界面也支持自定义水印,确保用户复制 AI 回复时自动附带来源归属信息。
Hugging Face 宣布在 Gradio 中支持通过单一参数实现生成内容的可视化水印。开发者可为图像和视频添加水印,或直接嵌入包含元数据的 QR 码。文本生成界面也支持自定义水印,确保用户复制 AI 回复时自动附带来源归属信息。
WRITER 团队发布 Palmyra-mini 系列三款开源模型,参数规模在 1.5B 到 1.7B 之间。palmyra-mini-thinking-a 模型在 GSM8K 基准测试中得分 82.87%。该系列模型采用 CoT 方法训练,支持 GGUF 和 MLX 量化版本。
Hugging Face 更新 transformers 库以支持 OpenAI 的 GPT-OSS 模型,引入了 MXFP4 量化、零构建内核下载、张量并行及专家并行等关键技术。
推荐理由:Hugging Face 详细说明了 transformers 为支持 OpenAI GPT-OSS 模型而升级的核心技术,包括 MXFP4 量化、零构建内核、动态滑动窗口及张量并行等,这些改进可复用至其他主流模型。
Together AI 与 Hugging Face 宣布新能力,开发者可在 Together 平台上微调 Hugging Face Hub 上的任意兼容 LLM。
推荐理由:Together AI 与 Hugging Face 打通微调管线,开发者可直接用 API 对 Hub 上任意兼容 LLM 做微调并回传 Hub,省去自建训练基础设施的摩擦。
Hugging Face 推出 Jupyter Agent,一个能在 Jupyter Notebook 中直接执行代码并推理、完成数据分析任务的智能体框架。
Hugging Face 发布 mmBERT,这是基于 ModernBERT 架构改进的新一代多语言编码器模型。模型在 3T 多 token 数据上训练,覆盖 1800 多种语言,在 XTREME 和 MTEB 基准上显著优于 XLM-R,推理吞吐量提升 2-4 倍。官方提供了模型权重、代码示例及微调教程,支持向 Sentence Transformers 和 PyLate 等生态兼容。
Google 发布 EmbeddingGemma,这是一个 308M 参数、支持 100 多种语言的端侧嵌入模型。该模型在 MTEB 多语言基准测试中表现领先,且量化后内存占用低于 200MB。它兼容 Sentence Transformers、LangChain 等主流框架,并支持在浏览器或本地环境中部署,便于构建移动设备上的检索增强生成(RAG)和智能体应用。
推荐理由:EmbeddingGemma 在 308M 参数和 2K 上下文窗口下支持 100 余种语言,为端侧 RAG 和 Agent 场景提供了轻量化嵌入方案。
SandboxAQ 开源的 SAIR 数据集在 Hugging Face 上线,提供超过 500 万个 AI 生成的蛋白质-配体 3D 结构及 IC50 值。该数据集约 97% 通过 PoseBusters 验证,利用 NVIDIA H100 集群在 3 周内完成生成,支持商业和非商业 R&D 管线加速。
Hugging Face 发布教程,演示如何利用 PyTorch 预编译加速 ZeroGPU Spaces。该教程展示了在 H200 硬件上,通过预编译和 FP8 量化将 Flux、Wan 等模型的推理速度提升 1.3 倍至 1.8 倍。文中还详细介绍了动态形状处理、区域编译以及如何结合 FlashAttention-3 进一步优化性能的具体实践方法。
NVIDIA 发布 9B 参数的 Nemotron Nano 2,采用 Transformer–Mamba 混合架构,端侧部署最高 6 倍 token 生成速度,支持配置 thinking budget,推理成本最多降低 60%。
Claude 可连接 Hugging Face Spaces 以利用最新模型生成详细图像。通过集成 Hugging Face MCP Server,用户可以启用 FLUX.1 Krea Dev 生成逼真自然图像,或使用 Qwen-Image 实现精准的文本渲染。账户提供免费额度使用这些模型,且便于在不同模型间切换。
Hugging Face 推出 kernel-builder 库,支持开发者在本地开发自定义 CUDA 内核,并针对多架构进行构建与分发。该工具通过 build.toml 和 flake.nix 实现可复现构建,利用 TORCH_LIBRARY_EXPAND 将内核注册为 PyTorch 原生算子。
Hugging Face 发布教程,展示如何通过 Model Context Protocol 把 arXiv、GitHub、Hugging Face 的检索封装成 MCP 工具,让智能体模型能用自然语言自动找论文、实现代码、预训练模型和 benchmark。
Hugging Face 开源 Kimina-Prover-RL 训练流水线,基于 DeepSeek-R1 的推理-生成范式与 Verl 框架,并同步发布 1.7B 和 0.6B 两款模型。
Hugging Face 团队开源了基于 DeepSeek-R1 范式且兼容 Verl 的 Kimina Prover RL 训练流水线。该流水线发布了 1.7B 和 0.6B 两个参数规模的模型,二者在 MiniF2F 基准测试中分别取得 76.63% 和 71.30% 的 Pass@32 成绩。这两个模型均刷新了相应参数量级开源模型在 Lean 4 形式化定理证明任务上的性能纪录。
Arm 宣布在即将发布的 ExecuTorch 0.7 beta 版本中默认启用 KleidiAI,利用 Arm SDOT 指令优化 Int4 矩阵乘法,使 Llama 3.2 1B 等模型能在 72% 的 Arm 设备(包括 Raspberry Pi 5 和 3-5 年前的手机)上高效运行生成式 AI 任务。
Arm 发布基于机器学习的 Neural Super Sampling (NSS) 实时超采样模型,面向移动端图形与游戏开发。该模型专为 Arm Neural Accelerators (NX) 优化,能以更低计算成本重建高分辨率画面;在 Enchanted Castle 演示中,540p 渲染至 1080p 仅需 4ms 并降低 50% 的 GPU 负载。
推荐理由:Arm 开源 NSS 模型在 4ms 内将 540p 实时超采样至 1080p,并给出移动端适配路径与 Unreal 插件,帮助团队直接评估低算力游戏渲染效果。
Hugging Face 发布了 FilBench 评测套件,专门评估 LLM 在 Tagalog、Filipino 和 Cebuano 三种语言中的流畅度、语言学能力、翻译能力及文化知识。
研究人员基于 25 款经典 Infocom 互动小说游戏构建 TextQuests 评测基准,用于测试大语言模型在长上下文与探索性任务中的 Agent 推理能力。
Hugging Face 发布开源工具 AI Sheets,用于使用开放 AI 模型构建、丰富和转换数据集。该工具支持本地部署或部署在 Hugging Face Hub,可接入 Hub 上数千个开放模型。其提供无代码操作界面,用户可通过编辑和验证单元格向模型提供反馈,并可将最终结果导出回 Hub。
推荐理由:原文明确指出AI Sheets是一个可本地部署的开源工具,并给出了免费使用入口和核心功能,便于读者评估其在数据工作流中的实际作用。
Hugging Face 在 Accelerate 库中集成了 ND-Parallel 功能,允许用户通过 ParallelismConfig 类灵活组合数据并行(DP)、完全分片数据并行(FSDP)、张量并行(TP)和上下文并行(CP)等策略。
Hugging Face 在 TRL 中新增了针对视觉语言模型(VLM)的多模态对齐方法,包括混合偏好优化(MPO)、群组相对策略优化(GRPO)和群组序列策略优化(GSPO)。这些方法扩展了成对 DPO 的信号提取能力,并支持 RLOO 和 Online DPO。TRL 还集成了 vLLM 以支持在线对齐训练,并提供了原生 SFT 支持及演示笔记本。
推荐理由:原文提供了MPO、GRPO和GSPO在视觉语言模型对齐中的具体实现方法,并给出了训练脚本与vLLM集成支持。
OpenAI 发布 GPT OSS 系列开源模型,包括 gpt-oss-120b(117B 参数)和 gpt-oss-20b(21B 参数)。两款均为 MoE 架构,采用 MXFP4 4-bit 量化;120B 模型可运行在单张 80GB H100 上,20B 模型仅需 16GB 显存。
推荐理由:两个模型都采用 MoE 加 4-bit 量化,小模型 21B 可跑在 16GB 硬件上,Apache 2.0 许可让社区能直接复用与微调。
Hugging Face 发布首个针对阿拉伯语大模型在 STEM 和代码生成领域的多组件基准 3LM。该基准包含 865 道本土 STEM 题、1744 道合成 STEM 题及汉化的 HumanEval+ 与 MBPP+ 代码数据集。评测 40 多个模型,GPT-4o 在代码任务中表现最佳,Qwen2.5-72B-Instruct 在 STEM 多选题中领先。
Gradio 通过 MCP 集成将 Python 函数自动转换为 LLM 工具,支持调用 Hugging Face Hub 上的模型。该方案构建 AI 购物助手,结合 IDM-VTON 扩散模型实现虚拟试穿,并通过 VS Code 的 Playwright MCP 浏览网页寻找衣物。
Hugging Face 发布开源免费的 Python 实验追踪库 Trackio,支持本地 Gradio 仪表盘和无缝同步到 Hugging Face Spaces 以便分享协作。其 API 兼容 Wandb,用户可通过 pip 安装后直接替换 import 语句开始使用,同时原生集成 Transformers 和 Accelerate,核心代码量少于 1000 行。
Hugging Face 宣布将 CLI 工具正式从 huggingface-cli 更名为 hf,旨在优化命令结构以提升可用性。新 CLI 遵循统一语法规范,并同步推出了 hf jobs 服务。该服务允许用户在 Hugging Face 基础设施上按需运行脚本或 Docker 镜像,采用秒级计费模式,目前仅面向 Pro 用户及 Team 或 Enterprise 组织开放。
Diffusers 结合 PEFT 发布针对 Flux 图像生成模型的 LoRA 快速推理优化方案,通过 Flash Attention 3、torch.compile、FP8 量化以及新的 LoRA 热交换机制避免重编译问题,在 H100 上实现 2.23 倍加速。
Hugging Face 开源视频基准 TimeScope,通过向 1 分钟至 8 小时的长视频中插入 5-10 秒的短片段,测试模型在定位检索、信息综合和细粒度时间感知三项任务上的表现。基准结果显示,即使是如 Gemini 2.5-Pro 等声称支持长视频的模型,在处理真实长视频任务时仍面临显著挑战。
NVIDIA 宣布其 NIM 推理微服务现已支持在 Hugging Face 平台上快速部署超过 100,000 个 LLM。NIM 提供单一 Docker 容器,自动识别模型架构与量化格式,并适配 TensorRT-LLM、vLLM 及 SGLang 等推理后端。
Arc Institute 发布了 Virtual Cell Challenge,要求参赛人员训练一个模型,以预测在(部分)未知细胞类型中基因沉默(通过 CRISPR)的作用,该任务被称为上下文泛化(context generalization)。
Hugging Face 发布新基准 FutureBench,用于评估 AI 智能体预测未来事件的能力,其核心观点是,比复述旧知识更能体现智能的是基于过去知识去预测未来。该基准通过从新闻和预测市场获取实时问题,并要求结果在未来被证实,从而天然避免了数据污染问题。在初始测试中,GPT-4.1 和 Claude 3.7 等不同模型展现了不同的信息搜集和推理策略,揭示了它们在决策路径上的行为差异。
Gradio 5.38.0 发布重大更新,显著增强了 MCP 服务器功能。新版支持远程 MCP 服务器无缝本地文件上传,通过“File Upload”服务器自动处理文件传输。
Consilium 是作者基于 Gradio 和 MCP 构建的多 LLM 协作平台,支持模型通过结构化辩论达成共识。该平台提供扑克桌视觉界面及 MCP 服务,可集成至 Cline 等应用。作者发现为 LLM 分配“专家倡导者”等特定角色能显著提升讨论质量,并实现了环形、星形等通信结构及可配置的辩论轮数。
Hugging Face 发布 Ettin 系列开源模型,基于 ModernBERT 训练配方同时训练 17M-1B 参数的编码器(MLM)和解码器(CLM),使用完全相同的 2T token 数据和架构,实现 SoTA 对比。
月之暗面团队发布基于 Qwen2.5-72B 和 Kimi k1.5 RL 管线训练的定理证明模型 Kimina-Prover-72B,开源了 8B 和 1.7B 蒸馏版本。该模型引入测试时强化学习搜索与错误修复机制,在 miniF2F 基准测试中达到 92.2% 的通过率,刷新 SOTA 记录。
Hugging Face 发布开源的官方 MCP Server,通过单一 URL 让 AI 助手访问 Hub 及数千个 Spaces 应用,并支持动态工具配置。
推荐理由:官方开源了可远程访问的 MCP Server 并详解部署权衡,读者可据此评估将 Hub 接入 AI 助手的可行性。
ScreenEnv 是一个 Python 库,让用户在 Docker 容器中创建隔离的 Ubuntu 桌面环境,用于测试和部署 GUI 智能体。它内置对 MCP(Model Context Protocol)的支持,也可通过直接 Sandbox API 接入自定义后端。
推荐理由:提供 Docker 内 Ubuntu 桌面环境的 Python 库,支持 MCP 接入与 smolagents 集成,读者可评估其用于 GUI 智能体测试与部署的可行性。
Hugging Face 提出异步机器人推理方法,通过解耦动作预测与执行消除推理等待带来的延迟。该系统采用 PolicyServer 和 RobotClient 双进程架构,利用 gRPC 通信实现比 REST API 快 5 倍的传输性能。在 SmolVLA 测试中,该架构在保持相同任务成功率的同时,实现了约 2 倍的完成任务速度提升。
Hugging Face 与 AMD 合作为 MI300X 开发定制开源内核,以加速 VLLM 运行 Llama 3.1 405B FP8 模型的推理性能。通过组合 Fused residual、Fused SwiGLU 和 Skinny GEMM 三个优化内核,在 8 节点 MI300X 上实现了显著的解码延迟降低。