跳到正文
8月22日周一
8月19日周五
8月18日周四
8月17日周三
  1. Hugging Face Blog88

    Hugging Face 团队详解 LLM.int8() 实现大型语言模型 8-bit 矩阵乘法的原理与实践

    Hugging Face 发布技术教程,结合 transformers、accelerate 和 bitsandbytes 库讲解 LLM.int8() 在大模型部署中的应用。文章通过 BLOOM-176B 和 OPT-175B 的测试数据证明,LLM.int8() 能在保持 FP16 推理性能的前提下将显存占用降低 4 倍,且针对小模型(如 T5-3B)的推理延迟优化策略也已同步更新。

    推荐理由:Hugging Face 团队详细拆解了 LLM.int8() 的底层原理与集成实践,读者可借此实现大模型低显存推理的落地。

8月12日周五
  1. Hugging Face Blog42

    Hugging Face 的 TensorFlow 技术哲学

    Hugging Face 强调其 TensorFlow 模型均封装为 Keras Model 对象,允许用户直接调用 fit()、compile() 和 predict() 方法。文章指出 TF 与 Keras 及 tf.data 紧密集成,这种架构使 Hugging Face 的 transformers 库在 TensorFlow 后端下能无缝利用预训练模型进行高效推理与训练。

8月11日周四
  1. Hugging Face Blog40

    使用 TF Serving 在 Kubernetes 上部署 ViT 模型

    文章介绍如何利用 Docker 和 Kubernetes 扩展本地部署的 Vision Transformer (ViT) 模型。通过基于 TensorFlow Serving 基础镜像容器化应用逻辑,并结合 Google Kubernetes Engine (GKE) 管理集群,实现支持多用户的规模化部署。该流程支持 gRPC 和 HTTP/REST 端点,便于处理原始图像输入并返回预测结果。

8月10日周三
8月5日周五
  1. Hugging Face Blog40

    深度强化学习课程第八单元:从零实现近端策略优化 (PPO)

    Hugging Face 深度强化学习课程第八单元讲解近端策略优化(PPO),通过限制策略更新幅度提升训练稳定性。文章详细推导了基于概率比率的截断替代目标函数,解释了在 [1-ϵ, 1+ϵ] 区间内裁剪比率以防止策略剧烈变化的机制。随后使用 PyTorch 从零实现 PPO 架构,并在 CartPole-v1 和 LunarLander-v2 环境中验证实现的有效性。

8月3日周三
  1. Hugging Face Blog60

    Hugging Face 发布 Private Hub,支持私有化部署机器学习开发环境

    Hugging Face 推出 Private Hub,允许企业在合规的私有环境中运行其完整的机器学习生态系统。该功能集成了 AutoTrain、Spaces 和 Inference API,支持模型微调、演示及推理部署,数据不出内网。更新显示,Private Hub 现已更名为 Enterprise Hub,不再提供本地部署,改为提供云端托管及混合云解决方案,并支持 SSO 等高级访问控制。

    推荐理由:介绍了私有化部署方案如何帮助企业加速模型全生命周期开发。

8月2日周二
  1. Hugging Face Blog32

    Nyströmformer:如何通过 Nyström 方法以线性时间和内存近似自注意力机制

    Hugging Face 博客介绍了 Nyströmformer,该模型通过 Nyström 方法将标准自注意力的时间和内存复杂度从 O(n^2) 降低至 O(n)。 其核心机制是利用查询和键的段均值构造 32 或 64 个 landmark 点,避免直接计算完整的 QK^T 矩阵,从而在长序列(如 4096 或 8192 长度)下保持竞争性性能。

7月28日周四
7月27日周三
  1. Hugging Face Blog65

    使用 XLA 加速 Hugging Face TensorFlow 文本生成

    Hugging Face 宣布通过 XLA 编译器显著加速 TensorFlow 文本生成,性能提升最高达 100 倍,在多数情况下比 PyTorch 快 9 倍。该方法通过在 tf.function 中启用 jit_compile 参数实现优化,并需对输入进行填充以固定张量维度,从而避免重复编译。

    推荐理由:展示了XLA编译将TensorFlow文本生成提速至百倍甚至超越PyTorch的方法,给出了可直接复用的优化步骤。

7月25日周一
7月22日周五
7月16日周六
  1. Hugging Face Blog30

    如何通过使用对抗性数据动态训练你的模型

    动态对抗数据收集(DADC)通过多轮人工生成样本欺骗 SOTA 模型并重训,以解决静态基准饱和及偏差问题,提升模型鲁棒性。 文章以 MNIST 手写数字识别为例,使用 Hugging Face Spaces 构建交互演示:用户绘制数字,模型预测,错误样本被标记存入数据集并用于后续训练。

7月14日周四
  1. Hugging Face Blog62

    BLOOM 176B 模型训练技术揭秘:Megatron-DeepSpeed 与并行化实践

    BLOOM 项目团队发布 176B 参数模型训练技术总结,详细介绍了基于 384 块 A100 GPU 的硬件架构与软件配置。文章深度解析了 Megatron-DeepSpeed 框架中 3D 并行(DP、TP、PP)与 ZeRO 分片机制,阐述了 BF16 优化器在避免溢出及提高训练稳定性中的作用。通过记录 48 节点集群训练过程中遇到的故障与优化策略,为大规模分布式 LLM 训练提供工程参考。

    推荐理由:文章拆解了 Megatron-DeepSpeed 的 3D 并行机制与 BF16 优化策略,为大规模模型训练提供了工程参考。

7月13日周三
  1. Hugging Face Blog50

    使用 Sentence Transformers 构建播放列表生成器

    Hugging Face 演示了如何利用 Sentence Transformers 库和 Gradio 构建基于语义搜索的播放列表生成器。该系统采用 sentence-transformers/msmarco-MiniLM-L-6-v3 模型,将歌词分割为段落并生成嵌入向量。通过设置 top_k=20 进行语义搜索,去重后通常可获取至少 9 首相关歌曲,实现了从文本提示到播放列表的生成。

7月12日周二
  1. Hugging Face Blog89

    Hugging Face 发布 BLOOM:世界最大开源多语言大模型

    Hugging Face 发布 176B 参数开源模型 BLOOM,支持 46 种自然语言和 13 种编程语言。该模型由 70 多个国家的 1000 余名研究者历时一年协作完成,并首次开放训练中间检查点与推理 API,支持学术界和独立开发者下载、运行及基于 Responsible AI 许可进行二次开发。

    推荐理由:BLOOM 作为 176B 参数开源模型,开放了 46 种自然语言和 13 种编程语言的能力验证与二次开发入口。

7月7日周四
6月30日周四
6月29日周三
  1. Hugging Face Blog23

    如何利用 Sentence Transformers 从零开始构建首个机器学习项目

    本文以 Sentence Transformers 为例,指导新手如何迈出机器学习第一步。该库能将文本或图像转换为嵌入向量,并利用余弦相似度等工具进行语义搜索。文中还分享了一套“火箭发射”式的项目策略,包括梳理工具能力、寻找 Hugging Face 数据集,以及从简单的语义搜索项目起步进行实践。

6月28日周二
6月23日周四
  1. Hugging Face Blog38

    如何开始使用嵌入:基于 Hugging Face Inference API 的 FAQ 引擎教程

    嵌入是信息的数值化表示,能捕捉语义并用于构建搜索引擎与推荐系统等应用。使用开源 Sentence Transformers 库中的 "sentence-transformers/all-MiniLM-L6-v2" 模型,配合 Hugging Face Inference API,可以快速对 Medicare FAQ 数据集进行嵌入。该方法支持语义搜索,无需大规模标注数据即可实现文本相似度匹配。

6月22日周三
6月15日周三
6月7日周二
5月26日周四
5月25日周三
5月23日周一
5月20日周五
5月19日周四
  1. Hugging Face Blog20

    Hugging Face 多模态项目组发布伦理章程,将伦理原则融入研究全周期

    Hugging Face 多模态学习组发布伦理章程,旨在将数据隐私、算法偏见等伦理原则形式化,作为机器学习全生命周期的核心指引。该文档基于团队与专家讨论制定,明确了禁止生成仇恨言论、泄露个人可识别信息及在高风险领域误用模型等内容策略。团队承诺通过透明披露决策、共享可复现成果及持续自我批评,平衡开放性与公平性,缓解潜在社会危害。

5月18日周三
  1. Hugging Face Blog33

    Hugging Face 强化学习课程:Q-Learning 入门第一部分

    Hugging Face 发布强化学习课程第二单元第一部分,深入讲解基于价值的方法与 Q-Learning 算法。该单元涵盖状态-价值函数、蒙特卡罗方法与时间差分学习(TD Learning)的区别,并指导开发者从零实现 Q-Learning 智能体。课程通过在 Frozen-Lake-v1 和出租车导航环境中训练智能体,为后续掌握能击败人类水平的 Deep Q-Learning 奠定基础。

5月17日周二
  1. Hugging Face Blog26

    Hugging Face 公布奖学金计划

    Hugging Face 推出 Fellowship Program,旨在通过提供算力、物资及官方认可,支持机器学习开源生态的关键贡献者扩大影响力。该计划不设截止时间,通过团队成员或现有 Fellow 提名进行选拔,入选者并非公司员工,但可在公开场合展示其 Hugging Face Fellow 身份。

5月16日周一
  1. Hugging Face Blog46

    Hugging Face 发布 Gradio 3.0

    Gradio 3.0 发布了基于 Svelte 的前端重构,显著减小了 payload 并提升了页面加载速度。该版本引入了 Gradio Blocks 低层 API,支持通过 Python 构建自定义布局和数据流的多步骤 Web 应用。Hugging Face 同期举办 Gradio Blocks Party 竞赛,旨在鼓励用户利用新组件开发机器学习演示。

5月13日周五
5月10日周二