Hugging Face 推出合成数据生成器:通过自然语言构建数据集
Hugging Face 推出合成数据生成器,允许用户通过自然语言描述无代码创建自定义数据集。该工具支持文本分类和聊天数据集生成,底层由 distilabel 和免费的 Hugging Face text-generation API 驱动,并可与 Argilla 集成进行数据审查。
Hugging Face 推出合成数据生成器,允许用户通过自然语言描述无代码创建自定义数据集。该工具支持文本分类和聊天数据集生成,底层由 distilabel 和免费的 Hugging Face text-generation API 驱动,并可与 Argilla 集成进行数据审查。
GaLore 利用梯度低秩结构实现显存高效的大语言模型全参数训练,将优化器状态显存降低 82.5% 以上。该方法支持结合 8-bit 优化器,使 7B 参数模型能在 NVIDIA RTX 4090 等消费级 GPU 上完成训练。
Hugging Face 发布了名为 Cosmopedia 的 250 亿 token 合成数据集及配套的 1B 规模模型 cosmo-1b,旨在通过完全开源的端到端流程复现 Microsoft Phi-1.5 的数据集。
推荐理由:原文公开了 250 亿 token 数据集的完整生成链路和 1B 模型评测,读者可据此复现或改进合成数据预训练方法。
Argilla 与 Hugging Face 启动“Data is Better Together”实验,通过社区协作构建偏好数据集。该实验在数天内吸引 350 名贡献者完成超过 11,000 条提示词评级,并发布包含 10,000 条提示词的 10k_prompts_ranked 数据集。双方正招募首批社区 cohort,提供 Argilla Space 支持及免费持久化存储资源。
Hugging Face 在官方博客发布教程,展示如何用 Mixtral-8x7B-Instruct-v0.1 通过 LLM API 标注金融新闻情感数据生成合成数据,再用 AutoTrain 微调 RoBERTa-base 模型。
推荐理由:文章给出可复现的合成数据微调方法,并用成本、延迟和碳排放对比,帮助读者评估该方法的适用边界。
Hugging Face 团队实证评估了 DPO、IPO 和 KTO 三种无需强化学习的 LLM 对齐方法。实验在 OpenHermes-2.5-Mistral-7B 和 Zephyr-7b-beta-sft 两个 7B 模型上进行,发现 IPO 与 DPO 效果持平且优于 KTO。相关代码已开源,关键超参数 β 对结果影响显著。
文章对比了 RoBERTa-large(355M 参数)、Llama 2-7B 与 Mistral 7B-v0.1 在灾难推文分类任务中的表现,采用 LoRA 进行参数高效微调,统一最大序列长度为 512 tokens,以探索不同规模模型在序列分类任务中的性能差异。
文章介绍如何使用 PyTorch FSDP 在 2 节点 16 张 A100 80GB 上微调 Llama 2 70B。
Hugging Face 在 TRL 库中引入了 DPO(Direct Preference Optimization)功能,允许开发者跳过复杂的 RLHF 奖励模型构建环节,直接通过偏好数据微调大模型。教程展示了如何使用 QLoRA 技术对 Llama v2 7B 模型进行 SFT 和 DPO 两阶段训练,并提供了基于 Stack-Exchange 偏好数据集的完整代码示例与训练指标监控方法。
推荐理由:教程结合官方库演示了如何用 DPO 替代复杂 RLHF 流程微调 Llama 2,提供了可直接运行的 QLoRA 训练代码。
Hugging Face 团队利用机器学习检测 Hub 中缺失语言元数据的 Dataset 语言,并通过 librarian-bots 自动提交 Pull Request 补充信息。实验使用 Meta 发布的 fastText 模型识别 217 种语言,目前 Hub 上约 87% 的公开 Dataset 未指定语言,该项目旨在提升特定语言 Dataset 的可发现性。
Intel 与 Hugging Face 合作展示 Q8-Chat,利用 SmoothQuant 技术将 LLM 量化为 8 位整数,在 Intel Xeon CPU 上实现高效推理。 该方案使模型体积缩小约 2 倍,显著降低推理延迟,MPT-7B-chat 模型在 32 核 CPU 上即可实现实时文本生成。 这为组织提供了比高端 GPU 更具成本效益的 LLM 部署选项,提升了 IT 灵活性。
BigCode 项目采用 MinHash + LSH 算法对代码数据集进行文档级近似去重,以解决数据重复及基准测试污染问题。去重不仅提升了训练效率,还通过减少数千吉字节数据的存储与传输成本,增强了数据的可访问性。该方法已应用于 BigScience 和 BigCode 数据集,有效降低了模型对训练数据逐字输出的风险。
Hugging Face 与 Substra 合作创建了隐私保护 AI 空间,旨在展示联邦学习在解决数据孤岛问题中的价值。联邦学习作为一种去中心化机器学习技术,允许模型在不集中存储原始数据的前提下,通过跨服务器交换模型权重进行训练,从而提升数据隐私性和模型鲁棒性。
BLOOMZ 在 Habana Gaudi2 上推理性能优于 A100 80GB,176B 参数版本速度达 1.42 倍,7B 参数版本速度达 2.89 倍。 测试基于 Optimum Habana 库,使用 DeepSpeed-inference 实现模型并行,支持 16 位精度下的低延迟推理。
该教程演示如何利用 Hugging Face 和 Flower 框架在多个客户端上对语言模型进行联邦学习。 具体实现为在 IMDB 评分数据集上微调预训练的 distilBERT 模型,以检测电影评论的正负倾向。 该过程通过 Flower 框架简化了多客户端参数聚合,并提供了基于 Google Colab 的模拟功能 Notebook。
Kakao Brain 联合 Hugging Face 发布 7 亿图文对开源数据集 COYO 及基于该数据训练的 ViT 和 ALIGN 模型。这是首个公开免费开源的 ALIGN 模型,其 ViT-L/16 和 ALIGN-B7-Base 在 ImageNet 及检索任务上性能与 Google 原版持平。模型代码、权重及训练数据 COYO 均已开放,支持复现视觉语言建模研究。
Hugging Face 与 Amazon Web Services 扩大长期战略合作,旨在通过云工具降低机器学习模型构建、训练和部署的成本,使下一代模型对开发者更易于访问。开发者将利用 Amazon SageMaker、AWS Trainium 和 AWS Inferentia 等工具,以便在几个点击内微调并部署 Hugging Face 上的模型。
本文综述了构成 ChatGPT 等对话代理核心的技术术语,包括 RLHF、IFT 和 CoT。文章对比了 Google LaMDA、Meta BlenderBot 3 等模型的参数规模与数据细节,指出指令跟随能力主要依赖指令微调(IFT)。 为解决模型生成不安全回复的问题,开发者在 IFT 后引入监督微调(SFT)以增强安全性。
Hugging Face 展示如何利用 Intel Sapphire Rapids CPU 集群通过 IPEX 和 CCL 库加速 PyTorch 训练任务。该方案利用 AMX 指令集加速矩阵乘法,支持 BF16 和 INT8 数据格式,且无需修改现有 Hugging Face 代码即可运行。
该教程以 MNIST 训练为例,展示了如何在 PyTorch 中实现分布式训练。 它通过三个抽象层级演示:使用原生 PyTorch 的 `torch.distributed` 模块,利用 🤗 Accelerate 的轻量级包装器实现跨设备最小化代码修改,以及使用 🤗 Transformers 的高层 Trainer API 抽象样板代码。
Hugging Face 发布教程,指导用户利用 transformers 库和 Google Colab 从零训练离线 Decision Transformer 模型。该模型基于 GPT-2 架构,将强化学习抽象为条件序列建模问题,通过预测未来动作实现目标回报。教程演示了使用 Gym HalfCheetah 专家数据集及自定义 Data Collator 进行离线 RL 训练的完整流程。
Hugging Face 为 Datasets 库新增了音频和图像数据的官方文档。Quickstart 更新了模态示例并引入 to_tf_dataset 函数以简化 TensorFlow 接入。新增的 ImageFolder 构建器无需脚本即可加载图像数据并支持通过元数据文件扩展至物体检测等任务。
BLOOM 项目团队发布 176B 参数模型训练技术总结,详细介绍了基于 384 块 A100 GPU 的硬件架构与软件配置。文章深度解析了 Megatron-DeepSpeed 框架中 3D 并行(DP、TP、PP)与 ZeRO 分片机制,阐述了 BF16 优化器在避免溢出及提高训练稳定性中的作用。通过记录 48 节点集群训练过程中遇到的故障与优化策略,为大规模分布式 LLM 训练提供工程参考。
推荐理由:文章拆解了 Megatron-DeepSpeed 的 3D 并行机制与 BF16 优化策略,为大规模模型训练提供了工程参考。
大型神经网络是近期多项AI进展的核心,训练这类模型是一项具有挑战性的工程与研究任务,需要协调一组GPU执行同步计算。
利用 HuggingFace AutoTrain 和 Kili 构建文本分类主动学习管道,通过迭代标注与模型重训优化情感分析。示例使用 Google Play Store 上约 4 万条 Medium 应用评论,定义了订阅、内容、界面及用户体验四个分类。Kili 提供协作标注工具与 API,支持多类别文本分类及命名实体识别,AutoTrain 则自动化数据清洗、模型选择及超参数优化。
summary_zh: Habana Gaudi 加速器在训练机器学习模型时,相比最新 GPU 实例提供高达 40% 的性价比优势。本文演示了如何在 AWS EC2 实例上配置 Gaudi 环境,并微调 BERT 模型完成 GLUE 基准中的 MRPC 文本分类任务。
Hugging Face Hub 新增 emissions_threshold 参数,支持基于 CO2 排放量筛选低排放模型;transformers 库集成 codecarbon,实现训练时自动追踪碳足迹。该功能允许用户通过 API 指定排放量区间检索模型,并将数据记录在 Model Card 中,以提升 ML 开发的透明度。
Hugging Face 宣布将 Stable-Baselines3 集成至 Hugging Face Hub。该集成允许用户通过 huggingface_sb3 库上传训练好的深度强化学习模型,并从社区下载模型以支持 CartPole、Space Invaders 等环境中的智能体测试。
Hugging Face 团队推出了名为 Data Measurements Tool(DMT)的开源工具和 Python 库,用于构建、测量和比较数据集。该工具结合 Hugging Face Hub 和 Streamlit,提供无代码界面,支持自动计算描述性统计和分布性统计指标。
作者基于 Hugging Face 实践经验,提出构建神经网络需先深入分析数据分布与标签平衡,再运行简单基线模型以建立合理对比基准。随后通过过拟合小批量数据(如 16 个样本)并移除正则化,若损失值未降至 0,则提示实现存在错误,以此高效定位代码中的潜在 Bug。
Hugging Face Transformers 3.1 与 Ray Tune 集成,简化大语言模型超参数调优。实验显示,Population-based Training 在 BERT 上取得 78% 最佳验证准确率,优于网格搜索。用户仅需几行代码即可调用 Ray Tune 算法进行微调。
OpenAI 发布分析显示,自 2012 年以来,在 ImageNet 上训练神经网络达到同等性能所需的计算量每 16 个月减少一半。与 2012 年相比,现在训练至 AlexNet 水平的计算成本降低了 44 倍,远超同期摩尔定律带来的 11 倍提升。研究结果表明,在近期高投入的 AI 任务中,算法进步带来的收益超过了传统硬件效率提升。
OpenAI 提出能量模型(EBM)的隐式生成与泛化方法,实现了稳定且可扩展的训练。该方法生成的样本质量优于现有模型,在低温下具备与 GAN 竞争的能力,并拥有似然模型的模式覆盖保证。
OpenAI 发现梯度噪声尺度这一统计指标能预测神经网络训练的可并行性。由于复杂任务梯度噪声更大,未来可能需要更大的批量大小以突破扩展限制。该研究表明神经网络训练可被系统化,而非神秘的技艺。
OpenAI 指出强化学习算法在奖励函数误指定时会出现反直觉的失效模式。该文章旨在深入探讨这一特定的失败场景,分析算法在现实环境中因奖励函数定义不当而崩溃的具体表现。