跳到正文
1月26日周四
  1. Hugging Face Blog80

    Hugging Face 发布 diffusers 的 LoRA 微调支持

    Hugging Face 的 diffusers 库正式支持 LoRA(低秩适配)技术用于 Stable Diffusion 的微调。该方案通过冻结预训练模型权重并注入可训练层,显著降低了计算资源和显存需求,例如在 11 GB 显存的 2080 Ti 显卡上即可完成全量微调,且训练得到的权重文件仅约 3 MB,便于共享。

    推荐理由:原文给出了LoRA微调的完整实践指南,读者可以据此用更低成本训练和共享自定义模型。

  2. Hugging Face Blog49

    使用 Stable Diffusion 生成游戏 2D 资产:AI 游戏开发系列教程第四部分

    Stable Diffusion 的 Image2Image 功能被整合进传统工作流,用于生成游戏 2D 资产。该过程以手工绘制的草图作为输入,通过调整 denoising strength 参数控制模型对原始输入的修改程度。教程展示了在不到 10 分钟内生成游戏就绪的玉米图标示例,并提及 Dreambooth 和 LoRA 等模型定制技术。

1月24日周二
  1. Hugging Face Blog37

    对话代理的关键技术:RLHF、IFT 与 CoT 详解

    本文综述了构成 ChatGPT 等对话代理核心的技术术语,包括 RLHF、IFT 和 CoT。文章对比了 Google LaMDA、Meta BlenderBot 3 等模型的参数规模与数据细节,指出指令跟随能力主要依赖指令微调(IFT)。 为解决模型生成不安全回复的问题,开发者在 IFT 后引入监督微调(SFT)以增强安全性。

1月20日周五
1月19日周四
1月16日周一
  1. Hugging Face Blog36

    Hugging Face 利用 Datasets 和 Transformers 构建图像相似度系统

    该文章展示了如何使用 Hugging Face 的 Transformers 和 Datasets 库构建图像相似度系统。系统采用基于 ViT 的 nateraw/vit-base-beans 模型计算图像嵌入向量,通过余弦相似度匹配查询图像与候选集。代码支持并行处理,并可通过 Swin Transformer 或 ConvNeXT 等模型扩展至其他图像数据集。

1月9日周一
1月3日周二
  1. Hugging Face Blog38

    图机器学习入门:基础概念、表示方法与图神经网络

    文章介绍图机器学习基础,涵盖图的结构定义(节点、边、异质/同质、有向/无向)及其在分子、社交网络、知识图谱等领域的应用。 阐述了图的两种主要表示方式(边集合与邻接矩阵)及置换不变性,区分了归纳式与直推式设置,并简要回顾从传统图特征方法到图神经网络(GNN)及图Transformer的发展脉络。

1月2日周一
12月21日周三
  1. Hugging Face Blog33

    CLIPSeg 零样本图像分割指南

    Hugging Face 发布教程,展示如何使用 🤗 transformers 调用 CLIPSeg 进行零样本图像分割。该模型基于冻结的 CLIP 表示和 Transformer 解码器,能在无额外训练的情况下生成粗略分割掩码。对于追求高精度的场景,可用 Segments.ai 工具对结果进行细化。

12月15日周四
12月14日周三
  1. Hugging Face Blog67

    Habana Gaudi2 vs Nvidia A100 80GB:模型训练与推理性能对比

    Habana Gaudi2在BERT预训练、Stable Diffusion推理和T5-3B微调上的吞吐或延迟比Nvidia A100 80GB快约1.8至2.84倍,且支持更大模型微调。测试通过Optimum Habana框架完成,单卡显存为96GB;A100使用fp16,Gaudi使用bf16或fp32。

    推荐理由:给出了Gaudi2与A100的逐项吞吐、延迟和参数量对比,读者可以据此判断硬件替代成本。

12月9日周五
  1. Hugging Face Blog63

    Hugging Face 详解 RLHF(基于人类反馈的强化学习)原理与开源实现

    RLHF 利用人类反馈直接优化大语言模型,使其对齐复杂的人类价值观。该流程包含预训练语言模型、收集数据并训练奖励模型、使用 PPO 强化学习微调语言模型三个核心步骤。Hugging Face 介绍了当前活跃的开源工具 TRL、TRLX 和 RL4LMs,并梳理了该领域的发展脉络、现存挑战及后续方向。

    推荐理由:将多模型协同训练的复杂机制拆解为三阶段并梳理开源工具,帮助读者建立对RLHF完整管线的实操理解。

12月2日周五
  1. Hugging Face Blog32

    Hugging Face 讲解如何用蛋白质语言模型与 ESMFold 进行深度学习

    Hugging Face 发布教程,指导生物学家和机器学习人员利用类 BERT/GPT 的蛋白质语言模型及 ESMFold 进行蛋白质折叠与微调。教程提供 PyTorch 和 TensorFlow 示例 notebook,并重点解析迁移学习机制。 文章强调迁移学习在 2018 年成为自然语言处理突破,其核心是在丰富数据上预训练后复用网络结构,能带来超过 100 倍的训练数据效率提升。

12月1日周四
11月25日周五
11月21日周一
11月17日周四
11月8日周二
  1. Hugging Face Blog52

    Hugging Face transformers 新增对比搜索解码方法

    Hugging Face 在 transformers 库中新增了 Contrastive Search 解码方法,支持 PyTorch 和 TensorFlow。该方法在模型置信度基础上引入退化惩罚,以缓解贪心搜索的重复问题和随机采样的语义不连贯。文中展示了使用 GPT-2 和 OPT 模型时,对比搜索生成的文本在流畅性和事实准确性上均优于传统方法。

11月7日周一
11月3日周四
  1. Hugging Face Blog56

    使用 Hugging Face Transformers 微调 Whisper 实现多语言语音识别

    Hugging Face 发布教程,演示如何使用 Transformers 库微调 OpenAI 的 Whisper 模型以适配多语言语音识别。教程以 Common Voice 11.0 中的印地语数据为例,展示了从数据准备、特征提取到模型训练的全流程。使用约 8 小时的小规模数据对 Whisper small 进行微调后,模型在测试集上的词错误率从 63.5% 降至 32.0%。

11月2日周三
10月24日周一
  1. Hugging Face Blog34

    如何使用 Hugging Face Evaluate 库评估语言模型偏差

    Hugging Face 在其 Evaluate 库中新增了偏差指标,用于评估因果语言模型(CLM)如 GPT-2 和 BLOOM 的生成偏差。 开发者可通过预定义提示词生成文本,并利用 Toxicity、Polarity 和 Hurtfulness 三个任务进行测量。 示例显示,简单的代词差异可能导致模型补全的毒性分数不同,如女性代词补全的毒性比率高达 0.3333。

10月21日周五
10月14日周五
10月13日周四
10月12日周三
9月28日周三
  1. Hugging Face Blog23

    Hugging Face AutoTrain 新增图像分类功能

    Hugging Face 为 AutoTrain 新增图像分类(Image Classification)任务,支持零代码训练视觉模型。用户可上传数据或使用 Hugging Face Hub 数据集,选择候选模型数量后自动训练并筛选最佳模型。训练少于 500 张图像且使用 5 个候选模型即可免费,最佳模型可达 84% 准确率。

9月27日周二
9月16日周五
9月8日周四
  1. Hugging Face Blog50

    Hugging Face 教程:从零训练你的第一个 Decision Transformer

    Hugging Face 发布教程,指导用户利用 transformers 库和 Google Colab 从零训练离线 Decision Transformer 模型。该模型基于 GPT-2 架构,将强化学习抽象为条件序列建模问题,通过预测未来动作实现目标回报。教程演示了使用 Gym HalfCheetah 专家数据集及自定义 Data Collator 进行离线 RL 训练的完整流程。

9月7日周三
8月24日周三
8月22日周一
8月19日周五