跳到正文
3月5日周二
  1. Hugging Face Blog35

    ConTextual 数据集:评估多模态大模型在文本丰富场景中的联合推理能力

    加州大学洛杉矶分校发布 ConTextual 数据集,用于评估多模态大模型在文本丰富场景中的上下文敏感视觉推理能力。该数据集包含 506 个指令,覆盖地图导航、信息图表阅读等 8 类真实场景,旨在测试模型对文本与视觉线索的联合推理表现。实验显示,包括 GPT-4V 在内的现代 LMM 在该基准上表现不佳,开源模型在时间阅读等领域存在显著能力缺口,建议通过增强图像编码器及细粒度视觉语言对齐加以改进。

3月4日周一
  1. Hugging Face Blog40

    Argilla 与 Hugging Face 联合发起集体构建偏好数据集实验

    Argilla 与 Hugging Face 启动“Data is Better Together”实验,通过社区协作构建偏好数据集。该实验在数天内吸引 350 名贡献者完成超过 11,000 条提示词评级,并发布包含 10,000 条提示词的 10k_prompts_ranked 数据集。双方正招募首批社区 cohort,提供 Argilla Space 支持及免费持久化存储资源。

2月29日周四
2月28日周三
2月27日周二
  1. Hugging Face Blog37

    Hugging Face 推出 TTS Arena:基准测试文本转语音模型在野外的表现

    Hugging Face 推出 TTS Arena,旨在通过众包投票机制评估文本转语音模型的自然度,解决传统自动指标不可靠的问题。该工具借鉴 LMSys 的 Chatbot Arena,允许用户对比两个模型生成的音频并投票,基于 Elo 评分系统生成实时排行榜。初始包含 ElevenLabs、MetaVoice 等开源与专有模型,结果将公开以民主化模型评估过程。

2月26日周一
  1. Hugging Face Blog38

    Hugging Face 发布 AI 水印技术 101:工具与方法

    Hugging Face 博客解析 AI 生成内容的水印技术,旨在应对 deepfake 带来的虚假信息风险。文章介绍了在内容生成期间嵌入水印的方法,以及 Glaze、Nightshade 等用于干扰 AI 训练的图像“毒化”工具。此外,还讨论了 C2PA 标准下的图像签名及 Truepic 等工具,以增强内容来源的可验证性。

2月23日周五
2月21日周三
  1. Hugging Face Blog94

    Google 发布 Gemma 开源大语言模型

    Google 发布名为 Gemma 的 4 个开源 LLM 模型,其中 7B 参数版本采用 6T token 预训练,8K context 下得分 63.75。Hugging Face 提供 transformers 4.38 集成支持,并说明使用 QLoRA 在单张 A10G GPU 上微调 gemma-7b 需约 9 小时。

    推荐理由:Hugging Face 给出了 Gemma 与同级模型的基准对比,以及消费级 GPU 微调实践入口。

2月20日周二
2月19日周一
  1. Hugging Face Blog59

    PEFT 新增 LoRA 适配器合并方法

    PEFT 库发布了针对 LoRA 适配器的新合并方法,支持在推理阶段在线结合多个微调权重。文章介绍了 concatenation、linear、SVD、TIES 和 DARE 等多种算法,提供代码示例与效果对比,并展示了将文本生成和文生图场景下不同风格的 LoRA 权重合并的应用,旨在帮助开发者在有限显存条件下提升模型能力融合体验。

2月16日周五
  1. Hugging Face Blog67

    Hugging Face 发布用开源 LLM 生成合成数据微调小模型的教程

    Hugging Face 在官方博客发布教程,展示如何用 Mixtral-8x7B-Instruct-v0.1 通过 LLM API 标注金融新闻情感数据生成合成数据,再用 AutoTrain 微调 RoBERTa-base 模型。

    推荐理由:文章给出可复现的合成数据微调方法,并用成本、延迟和碳排放对比,帮助读者评估该方法的适用边界。

2月8日周四
2月3日周六
2月2日周五
  1. Hugging Face Blog40

    NPHardEval 排行榜:通过复杂度类与动态更新揭示大语言模型的推理能力

    Hugging Face 推出 NPHardEval 排行榜,利用基于计算复杂度的动态框架评估大语言模型的逻辑推理能力。该基准包含 900 道算法题,涵盖 P、NP-complete 及 NP-hard 复杂度类,并每月自动更新以防过拟合。评测采用加权准确率和失败率指标,结果显示闭源模型表现普遍优于开源模型,其中 GPT 4 Turbo 整体表现最佳。

2月1日周四
  1. Hugging Face Blog65

    Hugging Face 基于开源 LLM 实现 Constitutional AI 的可复现训练配方

    Hugging Face 发布了一整套基于开源 LLM 实现 Constitutional AI 的端到端流程与数据集。该流程无需人工反馈,通过自定义“宪法原则”让模型自我批评和修订有害输出。基于 Mistral-7B 进行的实验表明,CAI 模型在 MT Bench 等基准上保持较高可用性,同时在 DAN 越狱测试中展现出显著更安全的响应表现。

    推荐理由:提供可复现的 CAI 训练流程与开源数据集,并验证 CAI 在不损害可用性情况下提升对 DAN 等越狱攻击的鲁棒性。

1月31日周三
  1. Hugging Face Blog42

    Hugging Face 发布 Enterprise Scenarios Leaderboard 评测大模型企业场景表现

    Patronus 团队在 Hugging Face 推出 Enterprise Scenarios Leaderboard,专注于评估 LLM 在金融、法律等真实企业场景中的表现。该榜单涵盖 FinanceBench、Legal Confidentiality 等 6 项任务,通过混合开源与闭源数据集防止测试集污染。用户可据此对比模型在准确性、相关性等指标上的实际应用能力。

1月30日周二
1月29日周一
1月26日周五
1月25日周四
1月24日周三
1月19日周五
  1. Hugging Face Blog40

    Wav2Vec2-BERT 低资源 ASR 微调教程

    Meta AI 发布的 Wav2Vec2-BERT 是一款 580M 参数音频模型,在低资源 ASR 场景中比 Whisper-large-v3 快 10 到 30 倍。本文演示使用 Hugging Face Transformers 将 facebook/w2v-bert-2.0 微调至蒙古语 ASR 任务,证明其资源效率更高。

1月18日周四
1月15日周一
1月14日周日
1月12日周五
1月10日周三
  1. Hugging Face Blog70

    使用 Unsloth 和 Hugging Face TRL 实现 2 倍速 LLM 微调

    Hugging Face 团队介绍了由社区开发的轻量级工具 Unsloth,可将 LLM 微调速度提升至 2 倍并降低 40% 内存占用。该工具通过重写 PyTorch 模块为 Triton 内核优化运算,兼容 Llama 和 Mistral 架构,且支持 TRL 训练器套件。

    推荐理由:提供可复现的加速微调方案,实测数据清晰展示了显存与速度优化幅度。

1月4日周四
12月20日周三
  1. Hugging Face Blog60

    使用推测解码实现 2 倍更快 Whisper 推理

    Hugging Face 演示了如何使用推测解码(Speculative Decoding)在保持模型输出不变的前提下,将 Whisper 语音转写推理速度提升约 2 倍。

    推荐理由:原文提供了数学保证输出不变的 2 倍加速原理和 Python 实操,读者可直接复用到现有语音转写流程。

12月11日周一
  1. Hugging Face Blog89

    Mixtral 8x7b 发布:开源 MoE 模型性能比肩 GPT-3.5

    Mistral 发布 Mixtral 8x7b 大语言模型,提供 Apache 2.0 许可。该模型采用 Mixture of Experts 架构,在 MT-Bench 等测试中表现优于 Llama 2 70B,性能接近 GPT-3.5,支持 32k tokens 上下文窗口。

    推荐理由:结合基准数据与工程化落地方案,呈现 Mixtral 8x7b 在开放权重模型中的能力层级与部署路径。

  2. Hugging Face Blog82

    MoE 混合专家架构全面解析

    Hugging Face 发布技术博客解析混合专家(MoE)模型,以 Mixtral 8x7B 为例拆解 MoE 的路由、稀疏性、训练稳定性和部署优化。文章详细讲解了 Gate 网络的路由逻辑、负载均衡损失,并指出 MoE 在推理时具有更高速度但需要高 VRAM 加载所有参数,微调容易过拟合但适合高频指令调优。

    推荐理由:结合 Mixtral 8x7B 的背景,拆解 MoE 的路由、稀疏性、训练稳定性和部署优化逻辑,是掌握大模型架构的实用材料。

12月6日周三
  1. Hugging Face Blog41

    SetFitABSA:使用 SetFit 进行少样本基于方面的情感分析

    Intel Labs 与 Hugging Face 联合推出 SetFitABSA 框架,用于少样本训练领域特定的基于方面的情感分析(ABSA)模型。该框架通过三阶段流程提取方面候选项并分类情感极性,在少样本场景下性能优于 Llama2 和 T5 等生成式模型。SetFitABSA 无需手工提示词,且仅需少量标注样本即可快速训练,显著降低了数据标注成本。

12月5日周二
  1. Hugging Face Blog76

    Optimum-NVIDIA 库发布:通过一行代码和 FP8 量化实现 LLM 推理加速

    Hugging Face 发布 Optimum-NVIDIA 推理库,支持在 NVIDIA 平台上通过修改一行代码启用 FP8 量化,实现最高 28 倍推理加速和 1200 tokens/s 的吞吐量。

    推荐理由:提供了从 Transformers 迁移至 Optimum-NVIDIA 的代码对比,展示了 FP8 量化在降低首字延迟和提升吞吐量方面的具体收益。

  2. Hugging Face Blog65

    AMD 与 Hugging Face 合作实现 AMD GPU 开箱即用的大语言模型加速

    Hugging Face 宣布现已支持在 AMD Instinct GPU 上开箱即用地运行所有 Transformers 模型和任务,无需修改任何代码即可替换 NVIDIA GPU 的部署流程。

    推荐理由:Hugging Face 和 AMD 给出了在 AMD Instinct GPU 上直接运行 Transformers 模型和部署 TGI 的入口,读者可以据此把现有 NVIDIA 工作流迁移过去。

  3. Hugging Face Blog41

    Hugging Face 如何实现 LoRA 推理速度提升 300%

    Hugging Face 通过保持 Stable Diffusion 基础模型常驻内存,并在用户请求时动态切换 LoRA 适配器,将 LoRA 推理速度提升 300%。该方法将服务预热时间从 25 秒降至 3 秒,用户请求响应时间从 35 秒缩短至 13 秒。平台现仅需不到 5 块 A10G GPU 即可支持数百个不同的 LoRA 模型推理,显著节省了计算资源并优化了用户体验。