跳到正文
8月18日周一
8月8日周五
8月7日周四
  1. Hugging Face Blog62

    Hugging Face TRL 新增视觉语言模型多模态对齐方法 MPO、GRPO 和 GSPO

    Hugging Face 在 TRL 中新增了针对视觉语言模型(VLM)的多模态对齐方法,包括混合偏好优化(MPO)、群组相对策略优化(GRPO)和群组序列策略优化(GSPO)。这些方法扩展了成对 DPO 的信号提取能力,并支持 RLOO 和 Online DPO。TRL 还集成了 vLLM 以支持在线对齐训练,并提供了原生 SFT 支持及演示笔记本。

    推荐理由:原文提供了MPO、GRPO和GSPO在视觉语言模型对齐中的具体实现方法,并给出了训练脚本与vLLM集成支持。

7月31日周四
7月23日周三
7月22日周二
7月17日周四
  1. Hugging Face Blog45

    Consilium:多 LLM 协作平台

    Consilium 是作者基于 Gradio 和 MCP 构建的多 LLM 协作平台,支持模型通过结构化辩论达成共识。该平台提供扑克桌视觉界面及 MCP 服务,可集成至 Cline 等应用。作者发现为 LLM 分配“专家倡导者”等特定角色能显著提升讨论质量,并实现了环形、星形等通信结构及可配置的辩论轮数。

7月9日周三
7月8日周二
  1. Hugging Face Blog48

    Hugging Face 基于 Knapsack 优化 nanoVLM 多模态数据管道

    Hugging Face 团队针对 nanoVLM 项目构建高效多模态数据管道,通过五个阶段优化以解决 GPU 空闲等待和填充浪费问题。 采用 Knapsack 策略将批次中约 60% 的无效填充 token 降至最低,并引入生产者-消费者模式实现动态批处理。 该方案利用贪婪和二分打包策略平衡 token 与图像数量,显著提升训练效率。

7月1日周二
  1. Hugging Face Blog42

    Sentence Transformers 微调稀疏嵌入模型指南

    Sentence Transformers 提供了一套用于微调稀疏嵌入模型的完整流程,涵盖模型、数据集、损失函数及评估器等组件。该库生成的 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 模型成本低,特别适合混合搜索或检索重排场景。

6月19日周四
  1. Hugging Face Blog74

    Hugging Face 教程:如何在消费级硬件上使用 QLoRA 微调 FLUX.1-dev

    Hugging Face 发布教程,指导使用 diffusers 库和 QLoRA 技术在单卡消费级硬件(如 RTX 4090)上微调 FLUX.1-dev 模型,峰值显存占用低于 10 GB。

    推荐理由:文章提供了在消费级硬件上微调FLUX.1-dev的具体代码流程和显存优化技巧,读者可直接复用该方案降低部署门槛。

6月12日周四
6月4日周三
5月12日周一
5月8日周四
4月13日周日
4月8日周二
3月26日周三
  1. Hugging Face Blog60

    Sentence Transformers 微调 reranker 模型教程与实测对比

    Sentence Transformers 团队发布教程,演示如何在自有数据上微调 cross-encoder reranker 模型。教程覆盖数据集准备、hard negatives mining、loss 函数选择、训练参数与评估器配置等完整流程,并给出从零训练及微调的完整代码示例。

    推荐理由:作者给出了可直接复用的微调流程和评测方法,并附上实测对比数据,帮助读者在自己的数据上训练更强 reranker 模型。

3月20日周四
3月7日周五
2月28日周五
2月13日周四
  1. Hugging Face Blog45

    Hugging Face 大规模分类与嵌入推理成本优化指南

    Hugging Face 博客提供框架用于计算单日 10 亿次以上分类或嵌入任务的推理成本。案例显示在 nvidia-L4 硬件上处理 10 亿次分类请求成本为 $253.82,嵌入为 $409.44,视觉嵌入高达 $44,496.51。通过调整 INFINITY_BATCH_SIZE 和 VUs 等参数并水平扩展 GPU 副本,可优化高吞吐量下的成本效率。

2月12日周三
12月17日周二
10月17日周四
9月5日周四
5月16日周四
5月14日周二
  1. Hugging Face Blog75

    Google开源视觉语言模型PaliGemma:基于SigLIP与Gemma-2B的开放权重

    Google 发布开源视觉语言模型 PaliGemma,架构结合 SigLIP-So400m 图像编码器与 Gemma-2B 文本解码器。模型在 Hugging Face 提供预训练(pt)、混合任务微调(mix)及特定基准微调(ft)三种类型,支持 224x224 至 896x896 分辨率与多种精度。

    推荐理由:PaliGemma提供预训练与微调混合权重,适合在多模态任务中复用SigLIP加Gemma的组合流程。

5月9日周四
5月1日周三
  1. Hugging Face Blog36

    Hugging Face Inference Endpoints 实现 Whisper ASR 与说话人分离及推测解码

    Hugging Face Inference Endpoints 支持部署 Whisper 进行自动语音识别,并集成 Pyannote 模型实现说话人分离及推测解码加速。该自定义推理处理器允许通过单个 API 端点组合 ASR 与分离功能,其中推测解码要求辅助模型解码器架构一致且批大小为 1。配置通过环境变量指定模型参数,分离功能需显式传递 HF_TOKEN 以确保安全。

4月30日周二