跳到正文
5月9日周一
  1. Hugging Face Blog38

    Hugging Face 完成 1 亿美元 C 轮融资

    Hugging Face 宣布完成 1 亿美元 C 轮融资,由 Lux Capital 领投,Sequoia 和 Coatue 等参投。该平台目前托管超过 10 万个预训练模型和 1 万个数据集,被 1 万多家公司用于构建机器学习技术。Hugging Face 表示将利用新资金加强研发、开源及负责任的 AI 普及。

5月4日周三
5月2日周一
4月28日周四
  1. Hugging Face Blog20

    Kili 与 HuggingFace AutoTrain 构建文本情感分析主动学习管道

    利用 HuggingFace AutoTrain 和 Kili 构建文本分类主动学习管道,通过迭代标注与模型重训优化情感分析。示例使用 Google Play Store 上约 4 万条 Medium 应用评论,定义了订阅、内容、界面及用户体验四个分类。Kili 提供协作标注工具与 API,支持多类别文本分类及命名实体识别,AutoTrain 则自动化数据清洗、模型选择及超参数优化。

4月26日周二
4月25日周一
4月22日周五
4月13日周三
  1. Hugging Face Blog28

    Hugging Face 机器学习专家访谈:Lewis Tunstall 与 NLP with Transformers

    Hugging Face 机器学习工程师 Lewis Tunstall 分享了他与 Leandro von Werra 合作出版《NLP with Transformers》书籍的经历,该书旨在填补 Transformer 领域的信息空白。 他在 Hugging Face 专注于利用 ONNX 格式导出模型,通过一行代码简化部署流程,从而优化延迟和吞吐量,解决生产环境中的 MLOps 挑战。

4月12日周二
4月5日周二
3月28日周一
  1. Hugging Face Blog59

    Hugging Face 在 transformers 库中引入 Decision Transformers

    Hugging Face 宣布将离线强化学习方法 Decision Transformer 集成至 transformers 库和 Hugging Face Hub。该方法利用自回归序列建模根据目标回报生成未来动作,替代传统价值函数最大化过程。用户可获取 9 个针对 Gym 连续控制任务的预训练检查点,并通过设定目标回报来调控策略表现,适用于 Atari 等场景及游戏 AI 难度调节。

3月23日周三
3月22日周二
  1. Hugging Face Blog27

    Hugging Face 宣布启动 AI 研究驻留项目

    Hugging Face 推出为期 9 个月的 AI 研究驻留项目,参与者将与科学团队合作探索机器学习前沿技术并公开发表研究成果。该项目旨在推动 AI 领域的多样性与包容性,特别鼓励来自边缘化群体或致力于社会正向影响的研究者申请。申请需展示编程能力与数学基础,截止日期为 4 月 3 日,且仅接受全职参与。

3月17日周四
  1. Hugging Face Blog42

    如何使用自定义数据集微调 Segformer 语义分割模型

    本教程演示如何使用 Hugging Face 自定义数据集微调 Segformer 模型,以实现人行道语义分割。该模型采用层级 Transformer 编码器与简单 MLP 解码器,在多个常见数据集上取得最先进的性能。通过加载 segments/sidewalk-semantic 数据集并应用数据增强,可实现针对特定场景的模型优化。

3月16日周三
3月11日周五
3月2日周三
  1. Hugging Face Blog23

    BERT 101:解读 NLP 领域尖端模型

    BERT 是由 Google AI Language 于 2018 年开发的自然语言处理模型,利用 Transformer 架构实现了双向文本理解。该模型通过 3.3 亿词的数据集训练,解决了情感分析等 11 类常见 NLP 任务。其衍生版本 DistilBERT 速度提升 60%,同时保持了 95% 以上的性能。

2月11日周五
2月2日周三
2月1日周二
1月25日周二
1月21日周五
1月13日周四
1月12日周三
1月11日周二
12月23日周四
  1. Hugging Face Blog22

    Hugging Face AutoNLP 与 Prodigy 构建主动学习工作流

    Hugging Face 展示了使用 AutoNLP 框架和 Explosion 的 Prodigy 标注工具构建主动学习流水线的过程。在 BBC 新闻分类数据集上,AutoNLP 训练的多类分类模型达到 98.67% 准确率,支持成本低至每个模型 $10。随后团队利用 Prodigy 完成命名实体识别标注,并将数据转换为 JSONL 格式以训练实体识别模型。

12月21日周二
  1. Hugging Face Blog44

    Gradio 加入 Hugging Face

    Hugging Face 宣布收购机器学习初创公司 Gradio,旨在为用户、开发者和数据科学家提供工具以创建更好的模型。Gradio 是一个开源库,自 2019 年发布以来,已有超过 300,000 个演示应用基于其构建。此次收购将加强机器学习在各类用户中的可访问性,双方团队将共同推动 Gradio 的发展。

12月15日周三
  1. Hugging Face Blog33

    Perceiver IO:适用于任意模态的可扩展全注意力模型

    Hugging Face Transformers 新增 Perceiver IO,这是首个基于 Transformer 且适用于文本、图像、音频、视频及点云等任意模态及其组合的模型。该架构在潜在变量上使用自注意力,使计算量独立于输入大小,仅线性依赖输入规模。模型支持 256 或 512 个潜在变量,可实现图像分类及光流预测等任务。

12月8日周三
  1. Hugging Face Blog64

    Hugging Face 教程:从零开始训练 CodeParrot 代码生成模型

    Hugging Face 发布教程,介绍如何从零训练 110M 和 1.5B 参数的 GPT-2 模型 CodeParrot 以生成 Python 代码。该模型使用基于 180GB Python 代码清洗后的 50GB 数据集训练,并采用 🤗 Accelerate 库在 16 张 A100 GPU 上完成分布式训练。

    推荐理由:提供了训练 GPT-2 大模型的具体步骤,涵盖数据清洗、分词器设计和分布式训练,可复用于自研代码模型。

12月2日周四
11月30日周二
11月29日周一
11月19日周五
  1. Hugging Face Blog27

    Intel 技术加速 PyTorch 分布式微调

    在 Intel Xeon Scalable Ice Lake 集群上利用 AVX-512 和 VNNI 指令加速 PyTorch 分布式微调。通过部署 Intel 扩展库和 oneCCL 通信库,在 MRPC 数据集上对 BERT 模型进行微调。测试了单节点、双节点和四节点配置的加速效果,验证了 CPU 集群在短时长微调任务中的可行性。

11月15日周一
11月4日周四
10月26日周二
  1. Hugging Face Blog35

    Hugging Face 课程第二期发布及社区活动

    Hugging Face 课程第二部分将于 11 月 15 日发布,覆盖 token 分类、翻译等常见 NLP 任务,并深入讲解 Datasets 和 Tokenizers 工具。同期举办的社区活动包含为期两天的讲座及基于 NLP 任务的模型微调团队项目,由 AWS 赞助提供 Amazon SageMaker 免费算力,完成者可获证书。

10月25日周一