跳到正文
2月13日周四
  1. Hugging Face Blog45

    Hugging Face 大规模分类与嵌入推理成本优化指南

    Hugging Face 博客提供框架用于计算单日 10 亿次以上分类或嵌入任务的推理成本。案例显示在 nvidia-L4 硬件上处理 10 亿次分类请求成本为 $253.82,嵌入为 $409.44,视觉嵌入高达 $44,496.51。通过调整 INFINITY_BATCH_SIZE 和 VUs 等参数并水平扩展 GPU 副本,可优化高吞吐量下的成本效率。

2月12日周三
10月17日周四
9月5日周四
5月16日周四
5月14日周二
  1. Hugging Face Blog75

    Google开源视觉语言模型PaliGemma:基于SigLIP与Gemma-2B的开放权重

    Google 发布开源视觉语言模型 PaliGemma,架构结合 SigLIP-So400m 图像编码器与 Gemma-2B 文本解码器。模型在 Hugging Face 提供预训练(pt)、混合任务微调(mix)及特定基准微调(ft)三种类型,支持 224x224 至 896x896 分辨率与多种精度。

    推荐理由:PaliGemma提供预训练与微调混合权重,适合在多模态任务中复用SigLIP加Gemma的组合流程。

5月9日周四
5月1日周三
  1. Hugging Face Blog36

    Hugging Face Inference Endpoints 实现 Whisper ASR 与说话人分离及推测解码

    Hugging Face Inference Endpoints 支持部署 Whisper 进行自动语音识别,并集成 Pyannote 模型实现说话人分离及推测解码加速。该自定义推理处理器允许通过单个 API 端点组合 ASR 与分离功能,其中推测解码要求辅助模型解码器架构一致且批大小为 1。配置通过环境变量指定模型参数,分离功能需显式传递 HF_TOKEN 以确保安全。

4月30日周二
4月16日周二
4月11日周四
  1. Hugging Face Blog62

    Vision Language Models 原理与微调指南

    Hugging Face 博客解析视觉语言模型(VLM)架构原理,介绍 LLaVA、Qwen-VL 等主流开源模型及其应用场景。指南详细说明了如何使用 transformers 库进行推理,并利用 TRL 的 SFTTrainer 在 llava-instruct 数据集上对 VLM 进行指令微调的完整流程。

    推荐理由:提供VLM结构与微调指南,并给出基于TRL的完整代码示例,帮助降低多模态模型使用门槛。

4月4日周四
4月3日周三
3月22日周五
3月15日周五
3月4日周一
  1. Hugging Face Blog40

    Argilla 与 Hugging Face 联合发起集体构建偏好数据集实验

    Argilla 与 Hugging Face 启动“Data is Better Together”实验,通过社区协作构建偏好数据集。该实验在数天内吸引 350 名贡献者完成超过 11,000 条提示词评级,并发布包含 10,000 条提示词的 10k_prompts_ranked 数据集。双方正招募首批社区 cohort,提供 Argilla Space 支持及免费持久化存储资源。

2月29日周四
2月26日周一
  1. Hugging Face Blog38

    Hugging Face 发布 AI 水印技术 101:工具与方法

    Hugging Face 博客解析 AI 生成内容的水印技术,旨在应对 deepfake 带来的虚假信息风险。文章介绍了在内容生成期间嵌入水印的方法,以及 Glaze、Nightshade 等用于干扰 AI 训练的图像“毒化”工具。此外,还讨论了 C2PA 标准下的图像签名及 Truepic 等工具,以增强内容来源的可验证性。

2月23日周五
2月16日周五
  1. Hugging Face Blog67

    Hugging Face 发布用开源 LLM 生成合成数据微调小模型的教程

    Hugging Face 在官方博客发布教程,展示如何用 Mixtral-8x7B-Instruct-v0.1 通过 LLM API 标注金融新闻情感数据生成合成数据,再用 AutoTrain 微调 RoBERTa-base 模型。

    推荐理由:文章给出可复现的合成数据微调方法,并用成本、延迟和碳排放对比,帮助读者评估该方法的适用边界。

2月1日周四
  1. Hugging Face Blog65

    Hugging Face 基于开源 LLM 实现 Constitutional AI 的可复现训练配方

    Hugging Face 发布了一整套基于开源 LLM 实现 Constitutional AI 的端到端流程与数据集。该流程无需人工反馈,通过自定义“宪法原则”让模型自我批评和修订有害输出。基于 Mistral-7B 进行的实验表明,CAI 模型在 MT Bench 等基准上保持较高可用性,同时在 DAN 越狱测试中展现出显著更安全的响应表现。

    推荐理由:提供可复现的 CAI 训练流程与开源数据集,并验证 CAI 在不损害可用性情况下提升对 DAN 等越狱攻击的鲁棒性。

1月30日周二
1月19日周五
  1. Hugging Face Blog40

    Wav2Vec2-BERT 低资源 ASR 微调教程

    Meta AI 发布的 Wav2Vec2-BERT 是一款 580M 参数音频模型,在低资源 ASR 场景中比 Whisper-large-v3 快 10 到 30 倍。本文演示使用 Hugging Face Transformers 将 facebook/w2v-bert-2.0 微调至蒙古语 ASR 任务,证明其资源效率更高。

1月14日周日
1月12日周五
1月10日周三
  1. Hugging Face Blog70

    使用 Unsloth 和 Hugging Face TRL 实现 2 倍速 LLM 微调

    Hugging Face 团队介绍了由社区开发的轻量级工具 Unsloth,可将 LLM 微调速度提升至 2 倍并降低 40% 内存占用。该工具通过重写 PyTorch 模块为 Triton 内核优化运算,兼容 Llama 和 Mistral 架构,且支持 TRL 训练器套件。

    推荐理由:提供可复现的加速微调方案,实测数据清晰展示了显存与速度优化幅度。

1月2日周二
  1. Hugging Face Blog76

    SDXL Dreambooth LoRA 高级训练实践指南:结合 Pivotal Tuning 与 Prodigy 优化器

    Hugging Face 团队发布了一份关于 SDXL Dreambooth LoRA 微调的最佳实践指南,整合了 Pivotal Tuning 技术和 Prodigy 优化器以显著提升训练效果。

    推荐理由:原文提供了一套结合 Pivotal Tuning 和 Prodigy 优化器的 SDXL LoRA 训练实践指南,并附带了可运行的训练脚本与推理方法。

12月20日周三
  1. Hugging Face Blog60

    使用推测解码实现 2 倍更快 Whisper 推理

    Hugging Face 演示了如何使用推测解码(Speculative Decoding)在保持模型输出不变的前提下,将 Whisper 语音转写推理速度提升约 2 倍。

    推荐理由:原文提供了数学保证输出不变的 2 倍加速原理和 Python 实操,读者可直接复用到现有语音转写流程。

12月11日周一
  1. Hugging Face Blog82

    MoE 混合专家架构全面解析

    Hugging Face 发布技术博客解析混合专家(MoE)模型,以 Mixtral 8x7B 为例拆解 MoE 的路由、稀疏性、训练稳定性和部署优化。文章详细讲解了 Gate 网络的路由逻辑、负载均衡损失,并指出 MoE 在推理时具有更高速度但需要高 VRAM 加载所有参数,微调容易过拟合但适合高频指令调优。

    推荐理由:结合 Mixtral 8x7B 的背景,拆解 MoE 的路由、稀疏性、训练稳定性和部署优化逻辑,是掌握大模型架构的实用材料。

12月5日周二
  1. Hugging Face Blog41

    Hugging Face 如何实现 LoRA 推理速度提升 300%

    Hugging Face 通过保持 Stable Diffusion 基础模型常驻内存,并在用户请求时动态切换 LoRA 适配器,将 LoRA 推理速度提升 300%。该方法将服务预热时间从 25 秒降至 3 秒,用户请求响应时间从 35 秒缩短至 13 秒。平台现仅需不到 5 块 A10G GPU 即可支持数百个不同的 LoRA 模型推理,显著节省了计算资源并优化了用户体验。

11月7日周二
10月27日周五
10月25日周三
10月24日周二