跳到正文
9月18日周一
9月15日周五
  1. Hugging Face Blog65

    Hugging Face 详解 LLM 生产环境优化策略

    Hugging Face 技术博客详细解析了 LLM 在生产环境中的优化方法,涵盖低精度量化、Flash Attention 及架构改进。

    推荐理由:文章系统展示了量化、Flash Attention 和架构优化在长上下文推理中的实际内存与速度收益,为工程落地提供直接参考。

9月13日周三
9月12日周二
9月11日周一
9月1日周五
  1. Hugging Face Blog26

    Fetch 使用 Amazon SageMaker 和 Hugging Face 将 ML 处理延迟降低 50%

    消费奖励公司 Fetch 通过优化基于 Amazon SageMaker 和 Hugging Face 的机器学习流水线,将最慢扫描的处理延迟降低了 50%。 Fetch 利用 Amazon SageMaker 的多 GPU 实例部署自定义模型,并借助 Hugging Face 的 AWS 深度学习容器和推理工具包简化了 Transformer 模型的训练与部署流程。

8月31日周四
8月30日周三
8月9日周三
  1. Hugging Face Blog32

    使用 BentoML 部署 Hugging Face 模型:DeepFloyd IF 实战

    本文演示了利用开源平台 BentoML 部署 Hugging Face 上开源文生图模型 DeepFloyd IF 的完整流程。DeepFloyd IF 直接在像素空间工作,采用级联扩散模块将图像从 64x64 px 逐步放大至 1024x1024 px。用户可通过定义 Service、打包 Bento 并容器化,将其部署到 Kubernetes 或 Yatai 以实现生产环境服务。

8月8日周二
  1. Hugging Face Blog82

    Hugging Face 教程:使用 DPO 微调 Llama 2

    Hugging Face 在 TRL 库中引入了 DPO(Direct Preference Optimization)功能,允许开发者跳过复杂的 RLHF 奖励模型构建环节,直接通过偏好数据微调大模型。教程展示了如何使用 QLoRA 技术对 Llama v2 7B 模型进行 SFT 和 DPO 两阶段训练,并提供了基于 Stack-Exchange 偏好数据集的完整代码示例与训练指标监控方法。

    推荐理由:教程结合官方库演示了如何用 DPO 替代复杂 RLHF 流程微调 Llama 2,提供了可直接运行的 QLoRA 训练代码。

8月4日周五
8月1日周二
  1. Hugging Face Blog42

    实用3D资产生成:分步指南

    该指南介绍利用生成式AI制作PS1风格3D资产的七步工作流。使用开源模型Shap-E将文本生成3D模型,在Blender 3.1中通过Decimate修改器降低多边形数量,并安装Dream Textures插件基于Stable Diffusion生成无缝纹理。最终完成UV映射并导出FBX格式,导入Unity后可通过顶点光照和特效呈现复古美学,展示了低保真3D生成的实际可行性。

7月27日周四
  1. Hugging Face Blog72

    Stable Diffusion XL 支持 Mac 端侧运行及 Core ML 高级量化

    Hugging Face 与 Apple 合作实现 Stable Diffusion XL 在 Apple Silicon Mac 上的本地运行,通过混合位调色(Mixed-Bit Palettization)技术将 UNet 模型压缩至等效 4.5 bit/参数,体积从 4.8 GB 降至 1.4 GB(减少71%)且生成质量优良。

    推荐理由:介绍了混合位调色量化技术,可将模型尺寸降低71%且保持质量,为本地化部署提供了实用方法。

7月17日周一
7月14日周五
7月5日周三
5月15日周一
5月9日周二
  1. Hugging Face Blog44

    如何使用 StarCoder 创建编码助手

    Hugging Face 展示了如何利用 BigCode 的 StarCoder 创建个性化编码助手 StarChat。StarCoder 是拥有 16B 参数量的开源模型,支持 8,192 token 上下文窗口,采用企业友好许可证。通过采用 ChatML 格式并配合 🤗 Transformers 与 DeepSpeed ZeRO-3 进行微调,可将其转化为对话式编码智能体。

5月8日周一
5月1日周一
  1. Hugging Face Blog41

    Hugging Face Unity API 安装与使用指南

    Hugging Face Unity API 作为 Hugging Face Inference API 的集成工具,允许开发者在 Unity 项目中通过 Git URL 安装并配置 API 键以访问模型。该工具支持文本生成、对话、文本转图像及语音识别等多项任务,并支持通过修改模型端点使用自定义模型。API 采用异步调用机制,开发者可通过切换至资源占用更低的模型端点来优化响应速度。

4月27日周四
4月26日周三
4月21日周五
  1. Hugging Face Blog23

    如何在 Hugging Face Space 中托管 Unity 游戏

    教程展示如何使用 Hugging Face Space 托管可玩的 Unity 游戏。首先使用 Git 克隆基于 Static HTML 模板创建的空间,将 Unity 项目的 Build Target 切换为 WebGL 并构建。随后将生成文件推送到仓库,最后启用 Git-LFS 处理大文件以便在 Space 中直接体验游戏。

4月14日周五
4月12日周三
4月5日周三
  1. Hugging Face Blog65

    StackLLaMA: 基于 RLHF 微调 LLaMA 模型的实战指南

    Hugging Face 团队开源了 StackLLaMA 模型及 RLHF 训练全流程实现,展示了如何通过监督微调(SFT)、奖励建模(RM)和强化学习(RLHF)让 7B 规模的 LLaMA 模型回答 Stack Exchange 问题。该流程支持使用 LoRA 和 8-bit 量化技术将模型部署在单块 80GB A100 GPU 上,降低了模型对齐训练的硬件门槛。

    推荐理由:原文提供了基于 LLaMA 模型进行 RLHF 训练的完整流水线实现与参数优化策略,适合需要降低模型对齐训练硬件门槛的开发者。

3月28日周二
3月27日周一
  1. Hugging Face Blog31

    使用 Hugging Face 和 Flower 进行联邦学习教程

    该教程演示如何利用 Hugging Face 和 Flower 框架在多个客户端上对语言模型进行联邦学习。 具体实现为在 IMDB 评分数据集上微调预训练的 distilBERT 模型,以检测电影评论的正负倾向。 该过程通过 Flower 框架简化了多客户端参数聚合,并提供了基于 Google Colab 的模拟功能 Notebook。

3月24日周五
3月10日周五
3月3日周五
  1. Hugging Face Blog77

    Diffusers 教程:使用 ControlNet 实现可控图像生成

    Hugging Face 发布教程,介绍如何在 Diffusers 中使用 ControlNet 实现可控图像生成。教程演示了利用 Canny 边缘、OpenPose 姿态及多条件组合控制 Stable Diffusion 生成结果的代码实现,并展示了如何通过启用 CPU 内存卸载及 xformers 加速将推理时间缩短至 V100 GPU 上的约 3 秒。

    推荐理由:原文提供了在 Diffusers 中结合 ControlNet 实现可控图像生成的具体代码示例与优化技巧。

2月15日周三
  1. Hugging Face Blog70

    BLIP-2 实现零样本图像到文本生成的指南

    Salesforce Research 的 BLIP-2 模型已集成至 Hugging Face Transformers,支持零样本图像描述、带提示的图像描述、视觉问答和聊天式提示。

    推荐理由:解释了BLIP-2如何用轻量级Q-Former桥接图像编码器和大语言模型,给出了零样本图像描述、问答和聊天式提示的完整代码流程。

2月7日周二
  1. Hugging Face Blog31

    AI for Game Development 第5期:使用 ChatGPT 创作游戏故事与内容

    本文演示在 Hugging Face 发布的系列教程第五部分中,如何利用 ChatGPT 为种田游戏生成故事大纲及物品描述。作者指出语言模型在长文本创作中存在质量下降和重复的局限,并建议将其用于头脑风暴而非直接商用。教程同时提及 Character.AI 等新兴对话智能体在个性化游戏角色互动中的应用潜力。

2月3日周五
  1. Hugging Face Blog42

    深入解析视觉语言模型

    联合视觉语言模型通过整合图像与文本模态,在零样本泛化任务中展现出显著效果。这些模型通常包含图像编码器、文本编码器及融合策略,并主要采用对比学习、PrefixLM 等预训练目标进行训练。Hugging Face 的 Transformers 库支持此类最新进展的实验与部署。

1月26日周四
  1. Hugging Face Blog80

    Hugging Face 发布 diffusers 的 LoRA 微调支持

    Hugging Face 的 diffusers 库正式支持 LoRA(低秩适配)技术用于 Stable Diffusion 的微调。该方案通过冻结预训练模型权重并注入可训练层,显著降低了计算资源和显存需求,例如在 11 GB 显存的 2080 Ti 显卡上即可完成全量微调,且训练得到的权重文件仅约 3 MB,便于共享。

    推荐理由:原文给出了LoRA微调的完整实践指南,读者可以据此用更低成本训练和共享自定义模型。

  2. Hugging Face Blog49

    使用 Stable Diffusion 生成游戏 2D 资产:AI 游戏开发系列教程第四部分

    Stable Diffusion 的 Image2Image 功能被整合进传统工作流,用于生成游戏 2D 资产。该过程以手工绘制的草图作为输入,通过调整 denoising strength 参数控制模型对原始输入的修改程度。教程展示了在不到 10 分钟内生成游戏就绪的玉米图标示例,并提及 Dreambooth 和 LoRA 等模型定制技术。

1月24日周二
  1. Hugging Face Blog37

    对话代理的关键技术:RLHF、IFT 与 CoT 详解

    本文综述了构成 ChatGPT 等对话代理核心的技术术语,包括 RLHF、IFT 和 CoT。文章对比了 Google LaMDA、Meta BlenderBot 3 等模型的参数规模与数据细节,指出指令跟随能力主要依赖指令微调(IFT)。 为解决模型生成不安全回复的问题,开发者在 IFT 后引入监督微调(SFT)以增强安全性。

1月20日周五