Microsoft 称 MAI-Thinking-1 未从其他 LLM 蒸馏
Microsoft 确认 MAI-Thinking-1 预训练未使用第三方 LLM 生成的合成数据,且避免了第三方模型蒸馏。微软还过滤了收集源中的 AI 生成内容,并排除了 Hugging Face 作为爬取目标,以确保模型血缘清晰。
Microsoft 确认 MAI-Thinking-1 预训练未使用第三方 LLM 生成的合成数据,且避免了第三方模型蒸馏。微软还过滤了收集源中的 AI 生成内容,并排除了 Hugging Face 作为爬取目标,以确保模型血缘清晰。
Hugging Face 提出 MosaicLeaks 基准,评测深研智能体在处理混合本地与网页信息时的隐私泄露风险。测试显示常规训练加剧了信息泄露,而新提出的 PA-DR 强化学习方法将严格链成功率从 48.7% 提升至 58.7%,同时将答案/全信息泄露率从 34.0% 降至 9.9%。
Sebastian Raschka 拆解了 Gemma 4、Laguna XS.2、ZAYA1-8B 和 DeepSeek V4 等最新开源 LLM 的架构设计。
Hugging Face 团队通过构建基于 Gemma 4 E2B 的浏览器助手示例,分享了在 Chrome 扩展 Manifest V3 中集成 Transformers.js 的实践经验。
推荐理由:文章拆解了 Manifest V3 约束下使用 Transformers.js 的架构细节,读者可复用其后台推理与消息通信设计。
QIMMA 整合 14 个基准的 52,000 多个样本,成为首个包含代码评估的阿拉伯语 LLM 排行榜。该开源平台通过自动化与人工双重验证流程剔除低质数据,确保 99% 内容本土化。其评估体系覆盖文化、科学、法律及编程等领域,公开样本输出以提升评测可复现性。
Hugging Face 讨论前沿模型 Mythos 及其嵌入系统在发现、修复软件漏洞中的表现,指出网络安全是涉及漏洞检测、验证、协调和补丁传播的速度竞赛。作者认为开放代码和工具能为防御方提供结构化优势,并建议采用基于开放组件的半自主 AI Agent,在组织自己的控制范围内运行以辅助安全防御。
作者分享理解大语言模型架构的工作流,主要适用于开源权重模型。流程始于官方技术报告,当论文细节缺失时,直接检视 Hugging Face 上的配置文件和 Python transformers 库中的参考实现,利用可运行代码获取架构细节。 该方法主要用于学习,手动检视代码被认为是理解模型内部工作机制的高效练习,而不适用于 ChatGPT 等闭源模型。
Hugging Face 提供了 Skill 和测试框架,用于协助将 transformers 中的语言模型移植到 mlx-lm,实现模型几乎即时可用。该 Skill 作为辅助工具而非自动化流程,支持贡献者处理脚手架搭建及架构校验,同时为审查者生成符合代码规范的高质量 PR 及可复现测试证据。
DeepSeek 官方发布正式版 DeepSeek-V3.2 和 DeepSeek-V3.2-Speciale 模型。官方网页端、App 和 API 均已更新为正式版 DeepSeek-V3.2;DeepSeek-V3.2 在公开的推理类 Benchmark 测试中达到了 GPT-5 的水平,并推出了首个将思考融入工具使用的模型。
推荐理由:V3.2 将深度思考与工具调用结合并开源,Speciale 达到国际顶级竞赛人类前列水平。
DeepSeek 正式发布 V3.2-Exp 实验性模型,在保持 V3.1-Terminus 性能基本持平的前提下,通过引入 DeepSeek Sparse Attention 提升了长文本的训练和推理效率。官方 App 与 API 已同步更新,开发者调用 API 的成本降低 50% 以上,模型权重与 TileLang、CUDA 算子已在 HuggingFace、魔搭及 GitHub 开源。
推荐理由:DeepSeek 发布 V3.2-Exp 并引入稀疏注意力机制,同步将 API 调用成本降低 50% 以上。
DeepSeek 将 DeepSeek-V3.1 更新至 DeepSeek-V3.1-Terminus 版本,优化语言一致性并增强 Code Agent 与 Search Agent 能力。目前官方 App、网页端、小程序与 DeepSeek API 模型均已同步更新。开源版本可通过 Hugging Face 和 ModelScope 下载。
Hugging Face 推出低代码框架 SyGra,用于简化 LLM 和 SLM 的数据创建、转换与对齐。该框架支持 vLLM、Triton、Ollama 等推理后端,提供从知识库转问答、SFT 转 DPO 及多语言转换等灵活数据生成功能,帮助团队加速模型对齐并减少人工数据整理工作量。
Hugging Face 团队联合 Meta 推出新一代 Agent 评测基准 Gaia2 与开源执行环境 ARE,以推进 Agent 的可靠性与适变性研究。Gaia2 是 2023 年 GAIA 的升级版,采用 CC BY 4.0 许可;ARE 遵循 MIT 许可,用于运行、调试和评测 Agent。
推荐理由:Hugging Face 联合 Meta 推出新一代 Agent 评测基准 Gaia2 与执行环境 ARE,为社区提供了更贴近真实世界的调试工具。
Scaleway 正式成为 Hugging Face Hub 支持的推理提供商,扩展了模型页面的无服务器推理功能。其托管 API 支持 gpt-oss、Qwen3 等开放权重模型,定价为每百万 tokens 0.20 欧元,首 token 响应时间低于 200ms。
Hugging Face 推出 RiskRubric.ai,由 Cloud Security Alliance 和 Noma Security 主导,提供针对 AI 模型的标准化、透明风险评估。评估基于六维度打分,包括可靠性、安全性、隐私、安全性、声誉等,并输出 0-100 分及 A-F 等级。数据显示 54% 模型达 A/B 级,50-67 分区间存在较多安全缺口。
Public AI Inference Utility 正式成为 Hugging Face Hub 支持的 Inference Provider。该开源项目通过 vLLM 后端和全球负载均衡层,为 Swiss AI Initiative 等机构提供基于捐赠 GPU 时间的免费推理服务。
Hugging Face 发布 LeRobotDataset v3.0,通过单文件打包多集数据和流式处理模式,解决数百万集场景的文件系统限制。该格式自 lerobot-v0.4.0 起支持,提供一键转换工具,并兼容 Hugging Face Hub 上的多模态机器人数据集。
Hugging Face 宣布在 Gradio 中支持通过单一参数实现生成内容的可视化水印。开发者可为图像和视频添加水印,或直接嵌入包含元数据的 QR 码。文本生成界面也支持自定义水印,确保用户复制 AI 回复时自动附带来源归属信息。
WRITER 团队发布 Palmyra-mini 系列三款开源模型,参数规模在 1.5B 到 1.7B 之间。palmyra-mini-thinking-a 模型在 GSM8K 基准测试中得分 82.87%。该系列模型采用 CoT 方法训练,支持 GGUF 和 MLX 量化版本。
Hugging Face 更新 transformers 库以支持 OpenAI 的 GPT-OSS 模型,引入了 MXFP4 量化、零构建内核下载、张量并行及专家并行等关键技术。
推荐理由:Hugging Face 详细说明了 transformers 为支持 OpenAI GPT-OSS 模型而升级的核心技术,包括 MXFP4 量化、零构建内核、动态滑动窗口及张量并行等,这些改进可复用至其他主流模型。
Together AI 与 Hugging Face 宣布新能力,开发者可在 Together 平台上微调 Hugging Face Hub 上的任意兼容 LLM。
推荐理由:Together AI 与 Hugging Face 打通微调管线,开发者可直接用 API 对 Hub 上任意兼容 LLM 做微调并回传 Hub,省去自建训练基础设施的摩擦。
Hugging Face 推出 Jupyter Agent,一个能在 Jupyter Notebook 中直接执行代码并推理、完成数据分析任务的智能体框架。
Hugging Face 发布 mmBERT,这是基于 ModernBERT 架构改进的新一代多语言编码器模型。模型在 3T 多 token 数据上训练,覆盖 1800 多种语言,在 XTREME 和 MTEB 基准上显著优于 XLM-R,推理吞吐量提升 2-4 倍。官方提供了模型权重、代码示例及微调教程,支持向 Sentence Transformers 和 PyLate 等生态兼容。
Google 发布 EmbeddingGemma,这是一个 308M 参数、支持 100 多种语言的端侧嵌入模型。该模型在 MTEB 多语言基准测试中表现领先,且量化后内存占用低于 200MB。它兼容 Sentence Transformers、LangChain 等主流框架,并支持在浏览器或本地环境中部署,便于构建移动设备上的检索增强生成(RAG)和智能体应用。
推荐理由:EmbeddingGemma 在 308M 参数和 2K 上下文窗口下支持 100 余种语言,为端侧 RAG 和 Agent 场景提供了轻量化嵌入方案。
SandboxAQ 开源的 SAIR 数据集在 Hugging Face 上线,提供超过 500 万个 AI 生成的蛋白质-配体 3D 结构及 IC50 值。该数据集约 97% 通过 PoseBusters 验证,利用 NVIDIA H100 集群在 3 周内完成生成,支持商业和非商业 R&D 管线加速。
Hugging Face 发布教程,演示如何利用 PyTorch 预编译加速 ZeroGPU Spaces。该教程展示了在 H200 硬件上,通过预编译和 FP8 量化将 Flux、Wan 等模型的推理速度提升 1.3 倍至 1.8 倍。文中还详细介绍了动态形状处理、区域编译以及如何结合 FlashAttention-3 进一步优化性能的具体实践方法。
NVIDIA 发布 9B 参数的 Nemotron Nano 2,采用 Transformer–Mamba 混合架构,端侧部署最高 6 倍 token 生成速度,支持配置 thinking budget,推理成本最多降低 60%。
Claude 可连接 Hugging Face Spaces 以利用最新模型生成详细图像。通过集成 Hugging Face MCP Server,用户可以启用 FLUX.1 Krea Dev 生成逼真自然图像,或使用 Qwen-Image 实现精准的文本渲染。账户提供免费额度使用这些模型,且便于在不同模型间切换。
Hugging Face 推出 kernel-builder 库,支持开发者在本地开发自定义 CUDA 内核,并针对多架构进行构建与分发。该工具通过 build.toml 和 flake.nix 实现可复现构建,利用 TORCH_LIBRARY_EXPAND 将内核注册为 PyTorch 原生算子。
Hugging Face 发布教程,展示如何通过 Model Context Protocol 把 arXiv、GitHub、Hugging Face 的检索封装成 MCP 工具,让智能体模型能用自然语言自动找论文、实现代码、预训练模型和 benchmark。
Hugging Face 开源 Kimina-Prover-RL 训练流水线,基于 DeepSeek-R1 的推理-生成范式与 Verl 框架,并同步发布 1.7B 和 0.6B 两款模型。
Hugging Face 团队开源了基于 DeepSeek-R1 范式且兼容 Verl 的 Kimina Prover RL 训练流水线。该流水线发布了 1.7B 和 0.6B 两个参数规模的模型,二者在 MiniF2F 基准测试中分别取得 76.63% 和 71.30% 的 Pass@32 成绩。这两个模型均刷新了相应参数量级开源模型在 Lean 4 形式化定理证明任务上的性能纪录。
Arm 宣布在即将发布的 ExecuTorch 0.7 beta 版本中默认启用 KleidiAI,利用 Arm SDOT 指令优化 Int4 矩阵乘法,使 Llama 3.2 1B 等模型能在 72% 的 Arm 设备(包括 Raspberry Pi 5 和 3-5 年前的手机)上高效运行生成式 AI 任务。
Arm 发布基于机器学习的 Neural Super Sampling (NSS) 实时超采样模型,面向移动端图形与游戏开发。该模型专为 Arm Neural Accelerators (NX) 优化,能以更低计算成本重建高分辨率画面;在 Enchanted Castle 演示中,540p 渲染至 1080p 仅需 4ms 并降低 50% 的 GPU 负载。
推荐理由:Arm 开源 NSS 模型在 4ms 内将 540p 实时超采样至 1080p,并给出移动端适配路径与 Unreal 插件,帮助团队直接评估低算力游戏渲染效果。
Hugging Face 发布了 FilBench 评测套件,专门评估 LLM 在 Tagalog、Filipino 和 Cebuano 三种语言中的流畅度、语言学能力、翻译能力及文化知识。
研究人员基于 25 款经典 Infocom 互动小说游戏构建 TextQuests 评测基准,用于测试大语言模型在长上下文与探索性任务中的 Agent 推理能力。
Hugging Face 发布开源工具 AI Sheets,用于使用开放 AI 模型构建、丰富和转换数据集。该工具支持本地部署或部署在 Hugging Face Hub,可接入 Hub 上数千个开放模型。其提供无代码操作界面,用户可通过编辑和验证单元格向模型提供反馈,并可将最终结果导出回 Hub。
推荐理由:原文明确指出AI Sheets是一个可本地部署的开源工具,并给出了免费使用入口和核心功能,便于读者评估其在数据工作流中的实际作用。
Hugging Face 在 Accelerate 库中集成了 ND-Parallel 功能,允许用户通过 ParallelismConfig 类灵活组合数据并行(DP)、完全分片数据并行(FSDP)、张量并行(TP)和上下文并行(CP)等策略。
Hugging Face 在 TRL 中新增了针对视觉语言模型(VLM)的多模态对齐方法,包括混合偏好优化(MPO)、群组相对策略优化(GRPO)和群组序列策略优化(GSPO)。这些方法扩展了成对 DPO 的信号提取能力,并支持 RLOO 和 Online DPO。TRL 还集成了 vLLM 以支持在线对齐训练,并提供了原生 SFT 支持及演示笔记本。
推荐理由:原文提供了MPO、GRPO和GSPO在视觉语言模型对齐中的具体实现方法,并给出了训练脚本与vLLM集成支持。
OpenAI 发布 GPT OSS 系列开源模型,包括 gpt-oss-120b(117B 参数)和 gpt-oss-20b(21B 参数)。两款均为 MoE 架构,采用 MXFP4 4-bit 量化;120B 模型可运行在单张 80GB H100 上,20B 模型仅需 16GB 显存。
推荐理由:两个模型都采用 MoE 加 4-bit 量化,小模型 21B 可跑在 16GB 硬件上,Apache 2.0 许可让社区能直接复用与微调。