Quantization-Aware Healing: 压缩 4-bit 模型 GPT-OSS 120B 性能反超全精度原版
Hugging Face 提出 Quantization-Aware Healing（QAH）方法，将 GPT-OSS 120B 模型压缩至 60B 参数并量化为 MXFP4 格式。该 4-bit 模型在 9 项基准测试中的 7 项上，性能超越同架构的 bfloat16 全精度版本。
#Hugging Face
#Hugging Face
今日 0 条Hugging Face BlogAI 评分4040
Hugging Face Blog精选AI 评分8282 Meta 发布开源多模态模型 Muse Glimmer：30B 参数，支持本地智能体应用
Meta 发布开源多模态模型 Muse Glimmer，模型为 30B 参数，基于 Muse 蒸馏而来，采用 Apache 2.0 许可，专为本地智能体应用场景设计。
推荐理由：文章展示了Muse Glimmer在本地部署场景下的自优化演示，为隐私敏感应用提供了低成本运行方案。
Hugging Face BlogAI 评分4444 Baseten 成为 Hugging Face Hub 支持的推理提供商
Baseten 正式成为 Hugging Face Hub 支持的推理提供商，首批支持 Kimi K3、DeepSeek V4 Flash 和 GLM-5.2 等开源 LLM 的对话与文本生成任务。PRO 用户每月可获得价值 $2 的推理积分，通过 HF 路由的请求按提供商标准 API 费率计费且无额外加价。
Hugging Face BlogAI 评分4040 MosaicLeaks 基准测试揭示深研智能体隐私泄露风险
Hugging Face 提出 MosaicLeaks 基准，评测深研智能体在处理混合本地与网页信息时的隐私泄露风险。测试显示常规训练加剧了信息泄露，而新提出的 PA-DR 强化学习方法将严格链成功率从 48.7% 提升至 58.7%，同时将答案/全信息泄露率从 34.0% 降至 9.9%。
Hugging Face Blog精选AI 评分6161 如何在 Chrome 扩展中使用 Transformers.js
Hugging Face 团队通过构建基于 Gemma 4 E2B 的浏览器助手示例，分享了在 Chrome 扩展 Manifest V3 中集成 Transformers.js 的实践经验。
推荐理由：文章拆解了 Manifest V3 约束下使用 Transformers.js 的架构细节，读者可复用其后台推理与消息通信设计。
Hugging Face BlogAI 评分2828 QIMMA 发布：首个整合代码评估与质量验证的开源阿拉伯语 LLM 排行榜
QIMMA 整合 14 个基准的 52,000 多个样本，成为首个包含代码评估的阿拉伯语 LLM 排行榜。该开源平台通过自动化与人工双重验证流程剔除低质数据，确保 99% 内容本土化。其评估体系覆盖文化、科学、法律及编程等领域，公开样本输出以提升评测可复现性。
Hugging Face BlogAI 评分5252 AI 与网络安全未来：为什么开放性很重要
Hugging Face 讨论前沿模型 Mythos 及其嵌入系统在发现、修复软件漏洞中的表现，指出网络安全是涉及漏洞检测、验证、协调和补丁传播的速度竞赛。作者认为开放代码和工具能为防御方提供结构化优势，并建议采用基于开放组件的半自主 AI Agent，在组织自己的控制范围内运行以辅助安全防御。
Hugging Face BlogAI 评分5050 Hugging Face 发布 Skill 与测试框架，辅助将 Transformers 模型移植至 MLX-LM
Hugging Face 提供了 Skill 和测试框架，用于协助将 transformers 中的语言模型移植到 mlx-lm，实现模型几乎即时可用。该 Skill 作为辅助工具而非自动化流程，支持贡献者处理脚手架搭建及架构校验，同时为审查者生成符合代码规范的高质量 PR 及可复现测试证据。
Hugging Face BlogAI 评分4040 Public AI 成为 Hugging Face 支持的 Inference Provider
Public AI Inference Utility 正式成为 Hugging Face Hub 支持的 Inference Provider。该开源项目通过 vLLM 后端和全球负载均衡层，为 Swiss AI Initiative 等机构提供基于捐赠 GPU 时间的免费推理服务。
Hugging Face BlogAI 评分3535 Gradio 实现 Hugging Face Space 可视化水印功能
Hugging Face 宣布在 Gradio 中支持通过单一参数实现生成内容的可视化水印。开发者可为图像和视频添加水印，或直接嵌入包含元数据的 QR 码。文本生成界面也支持自定义水印，确保用户复制 AI 回复时自动附带来源归属信息。
Hugging Face BlogAI 评分4242 Sentence Transformers 微调稀疏嵌入模型指南
Sentence Transformers 提供了一套用于微调稀疏嵌入模型的完整流程，涵盖模型、数据集、损失函数及评估器等组件。该库生成的 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 模型成本低，特别适合混合搜索或检索重排场景。
Hugging Face BlogAI 评分4848 Hugging Face 团队在 nanoVLM 中从零实现 KV Cache，生成速度提升 38%
Hugging Face 团队在其 nanoVLM 仓库中从零实现了 KV Cache，使文本生成速度提升 38%。该优化通过缓存 Key 和 Value 矩阵，避免了自回归生成中的重复计算。
Hugging Face Blog精选AI 评分6565 H Company 发布开源行动 VLM Holo1 与 Web 代理 Surfer-H
H Company 在 Hugging Face 上发布开源行动视觉语言模型 Holo1 家族和 WebClick 多模态定位基准。
推荐理由：开源Holo1行动VLM家族与Surfer-H代理给出可对比的成本和精度基准，读者可评估网页自动化的落地门槛。
Hugging Face BlogAI 评分4545 Hugging Face 大规模分类与嵌入推理成本优化指南
Hugging Face 博客提供框架用于计算单日 10 亿次以上分类或嵌入任务的推理成本。案例显示在 nvidia-L4 硬件上处理 10 亿次分类请求成本为 $253.82，嵌入为 $409.44，视觉嵌入高达 $44,496.51。通过调整 INFINITY_BATCH_SIZE 和 VUs 等参数并水平扩展 GPU 副本，可优化高吞吐量下的成本效率。
Hugging Face BlogAI 评分4747 Hugging Face 发布用于微调视频生成模型的开源数据集工具
Hugging Face 团队发布了适用于小规模场景的开源视频数据集脚本及三阶段处理流水线，旨在降低构建视频生成模型微调数据集的门槛。该工具链集成 Florence-2 与 Qwen2.5 模型，通过运动、美学及水印等多维度过滤与自动字幕生成，显著提升了数据质量与可控性。
Hugging Face BlogAI 评分4747 Hugging Face 开源 Xet 存储优化方案，加速 Hub 上传下载 2-3 倍
Hugging Face 开源基于 Rust 的 xet-core 和 hf_xet，将 Hugging Face Hub 模型与数据集仓库的上传下载速度提升 2 至 3 倍。方案通过引入 Block 和 Shard 聚合机制替代纯 Chunk 存储，减少内容寻址存储条目达 1000 倍，并优化了 3.5PB 量化 GGUF 模型文件的去重效率。
Hugging Face BlogAI 评分3434 GCP 上 5 代 Intel Xeon 处理器在嵌入与生成任务中吞吐量提升 2.3–24 倍
在 Google Cloud C4 实例（5 代 Xeon）上运行 Llama-3.2-3 模型和 UAE-Large-V1 嵌入模型，文本嵌入吞吐量较 N2 提升 10–24 倍，文本生成提升 2.3–3.6 倍。C4 每小时价格约为 N2 的 1.3 倍，在成本调整后嵌入和生成的总拥有成本优势分别为 7–19 倍和 1.7–2.9 倍。
Hugging Face BlogAI 评分3939 Hugging Face 推出合成数据生成器：通过自然语言构建数据集
Hugging Face 推出合成数据生成器，允许用户通过自然语言描述无代码创建自定义数据集。该工具支持文本分类和聊天数据集生成，底层由 distilabel 和免费的 Hugging Face text-generation API 驱动，并可与 Argilla 集成进行数据审查。
Mistral AI精选AI 评分6363 Mistral 发布 12B 参数多语言模型 Mistral NeMo，支持 128k 上下文窗口
Mistral AI 正式发布 Mistral NeMo 12B，该模型由 NVIDIA 协助构建，提供最高 128k tokens 的上下文窗口。模型采用 Apache 2.0 协议开源，在推理、世界知识和编程能力上达到同规模 SOTA 水平。
推荐理由：Mistral NeMo 12B 引入 128k 上下文和新 tokenizer Tekken，性能超越同类开源模型且支持 FP8 推理，适合多语言业务部署。
Hugging Face BlogAI 评分4848 Pollen Robotics 发布开源 Pollen-Vision 库，为机器人提供零样本 3D 物体检测接口
Pollen Robotics 团队发布开源 pollen-vision 库，该工具包整合了 OWL-VIT、Mobile SAM 和 RAM 等零样本视觉模型，旨在让机器人无需训练即可抓取未知物体。当前版本聚焦于 3D 物体检测，能通过相机内参计算物体在 3D 空间中的 (x, y, z) 坐标，但尚未支持 6D 姿态估计。
Hugging Face BlogAI 评分5656 GaLore：让大模型训练摆脱高端算力依赖
GaLore 利用梯度低秩结构实现显存高效的大语言模型全参数训练，将优化器状态显存降低 82.5% 以上。该方法支持结合 8-bit 优化器，使 7B 参数模型能在 NVIDIA RTX 4090 等消费级 GPU 上完成训练。
Hugging Face Blog精选AI 评分7676 Cosmopedia：如何为预训练大语言模型创建大规模合成数据
Hugging Face 发布了名为 Cosmopedia 的 250 亿 token 合成数据集及配套的 1B 规模模型 cosmo-1b，旨在通过完全开源的端到端流程复现 Microsoft Phi-1.5 的数据集。
推荐理由：原文公开了 250 亿 token 数据集的完整生成链路和 1B 模型评测，读者可据此复现或改进合成数据预训练方法。
Hugging Face BlogAI 评分5656 Hugging Face 推出在 Intel Meteor Lake 笔记本上运行 Phi-2 的 OpenVINO 量化方案
Hugging Face 发布在 Intel Meteor Lake 笔记本上运行 Phi-2 的方案，使用 Intel OpenVINO 和 Optimum Intel 对 microsoft/phi-2 做4-bit 权重量化，再运行在搭载 Core Ultra 7 155H 的中端笔记本上。
Hugging Face BlogAI 评分4343 Hugging Face 与 NVIDIA 推出 Train on DGX Cloud 服务
Hugging Face 与 NVIDIA 联合推出 Train on DGX Cloud 服务，允许 Enterprise Hub 用户通过无代码界面在 Hugging Face Hub 上微调 Llama、Mistral 等模型。该服务提供 NVIDIA H100 GPU 算力，按小时计费为 $8.25，支持 1 至 8 块实例配置，训练后的模型将自动上传至私有仓库。
Hugging Face BlogAI 评分4848 Hugging Face 发布 Optimum 的 PyTorch 量化后端 Quanto
Hugging Face 推出 PyTorch 量化后端 Quanto，作为 Optimum 的组件支持 int8、int4、int2 及 float8 权重与激活量化。
Hugging Face BlogAI 评分4040 Argilla 与 Hugging Face 联合发起集体构建偏好数据集实验
Argilla 与 Hugging Face 启动“Data is Better Together”实验，通过社区协作构建偏好数据集。该实验在数天内吸引 350 名贡献者完成超过 11,000 条提示词评级，并发布包含 10,000 条提示词的 10k_prompts_ranked 数据集。双方正招募首批社区 cohort，提供 Argilla Space 支持及免费持久化存储资源。
Hugging Face BlogAI 评分4242 Hugging Face 探索 SDXL 简单优化技巧
Hugging Face 测试了提升 SDXL 推理速度与降低内存占用的优化方案。在 A100 GPU 上，结合 fp16、SDPA 及 torch.compile，推理时间从 72.2 秒缩短至 10.2 秒，内存占用从 28GB 降至 21.7GB。
Hugging Face BlogAI 评分4949 Gradio-Lite：完全在浏览器中运行的无服务器 Gradio
Hugging Face 推出 @gradio/lite 库，利用 Pyodide 将 Gradio 应用直接运行在浏览器中，无需服务器基础设施。开发者可用 Python 编写应用，支持通过 micropip 安装 transformers_js_py 等依赖，并可在 Hugging Face Static Space 免费托管。
Hugging Face Blog精选AI 评分8787 Hugging Face Tokenizer 新增 chat_template 属性以解决聊天模型格式不匹配问题
Hugging Face 在 tokenizer 中新增 chat_template 属性，用于存储模型训练时使用的 Jinja 聊天格式模板。由于不同聊天模型采用各异的消息格式化方式，使用错误格式会导致严重的性能下降且难以调试，该功能将格式逻辑从代码库移至模型仓库，允许用户通过 tokenizer.apply_chat_template() 自动匹配正确格式。
推荐理由：文章解释了 Chat template 如何解决格式错配导致的性能衰减问题，并给出了在 Hugging Face 生态中配置该属性以统一推理流程的具体方法。
Hugging Face BlogAI 评分3636 Hugging Face Diffusers 支持在 Cloud TPU v5e 上使用 JAX 加速 Stable Diffusion XL 推理
Hugging Face Diffusers 宣布支持通过 JAX 在 Google Cloud TPU v5e 上部署 Stable Diffusion XL，实现高性能且成本高效的推理。
Hugging Face BlogAI 评分3838 如何通过 Inference API 部署 AI Comic Factory
本文演示如何利用 Hugging Face Inference API 部署 AI Comic Factory。
Hugging Face BlogAI 评分1717 Hugging Face 夏季伦理与社会通讯 #5：游说华盛顿及 2023 年夏季思考
Hugging Face 发布第 5 期伦理与社会通讯，总结其团队向欧盟、英国和美国立法者提供 AI 价值观建议，并分享 CEO Clem 在美国国会的证词。通讯还列举了团队在媒体、TED 及 FAccT 会议上的演讲，并宣布将公平与偏见测试应用于多模态模型 IDEFICS。
Hugging Face Blog精选AI 评分6161 通过 TRL 使用 DDPO 微调 Stable Diffusion 模型
TRL 库新集成了 DDPOTrainer 类，用于将 Denoising Diffusion Policy Optimization (DDPO) 应用于 Stable Diffusion 模型，使其输出更符合人类审美等偏好。
推荐理由：通过 TRL 新集成的 DDPOTrainer，读者可以直接在本地用 RL 微调 Stable Diffusion，降低扩散模型对齐人类偏好的门槛。
Hugging Face Blog精选AI 评分7070 面向非工程人员的指南：训练一个 LLaMA 2 聊天机器人
教程演示了如何使用 Hugging Face Spaces、AutoTrain 和 ChatUI 在不写代码的情况下，基于 LLaMA 2 7B 微调一个开源 LLM 并部署为可共享的聊天应用。
推荐理由：教程面向零基础读者，演示了如何用 AutoTrain 和 Spaces 微调 LLaMA 2 并部署成聊天应用，适合想了解开源模型部署流程的读者。
Hugging Face BlogAI 评分3737 Hugging Face 开源文本生成与大语言模型生态指南
Hugging Face 梳理了包含 Llama 2 和 BLOOM 在内的开源大语言模型生态。Llama 2 是允许商用的开放获取模型，HuggingChat 提供最大检查点试用。BLOOM 是首个参数量超越 GPT-3 的开源模型，StarCoder 则针对 80 多种编程语言进行代码补全训练。
Hugging Face BlogAI 评分2323 如何在 Intel CPU 上微调 Stable Diffusion 模型
本教程展示了如何利用 Intel Sapphire Rapids CPU 上的 AMX 硬件加速器，在纯 CPU 集群上微调 Stable Diffusion 模型。该过程使用 textual inversion 技术，仅通过 5 张示例图像即可完成训练，无需 GPU 基础设施。
Hugging Face BlogAI 评分5050 使用 Transformers.js 构建 Doodle Dash：一款浏览器端 ML 网页游戏教程
教程演示如何使用 Transformers.js 在浏览器中完全本地运行 ML 网页游戏 Doodle Dash。该游戏基于 Google Quick, Draw! 数据集微调了 5.6M 参数的 apple/mobilevit-small 模型，通过 Web Workers 实现每秒 60 次以上的实时推理预测。
Hugging Face BlogAI 评分4040 Hugging Face 机器学习专家系列：Margaret Mitchell 专访
Hugging Face 机器学习专家系列节目邀请到曾创立并联合领导 Google 伦理 AI 团队的 Margaret Mitchell 担任嘉宾。她分享了在微软开发 Seeing AI 应用时，因发现视觉模型对爆炸场景产生“美丽”等错误描述而觉醒伦理 AI 重要性的经历。
Hugging Face BlogAI 评分2727 Hugging Face 宣布启动 AI 研究驻留项目
Hugging Face 推出为期 9 个月的 AI 研究驻留项目，参与者将与科学团队合作探索机器学习前沿技术并公开发表研究成果。该项目旨在推动 AI 领域的多样性与包容性，特别鼓励来自边缘化群体或致力于社会正向影响的研究者申请。申请需展示编程能力与数学基础，截止日期为 4 月 3 日，且仅接受全职参与。
Hugging Face BlogAI 评分4242 Hugging Face datasets 库结合 sentence_transformers 与 faiss 实现图像搜索
Hugging Face 官方展示如何利用 datasets 库、sentence_transformers 和 faiss 构建图像搜索应用。该方案使用英国图书馆的书籍插图数据集，通过 datasets 的 ImageFolder 加载器读取图像，并借助 faiss 索引实现基于向量相似度的图像检索，超越了传统标签搜索。