Hugging Face 实现 Microsoft 的 SpeechT5 语音模型
Hugging Face 在 Transformers 库中实现了微软研发的 SpeechT5 语音模型,支持 TTS、ASR 和语音转换。该模型利用统一的 Transformer 架构,通过在混合数据上预训练并结合不同的前馈层和反向网络来执行多项任务。
推荐理由:通过预训练统一模型架构,展示了语音与文本模态如何共享 Transformer 骨干实现多任务处理。
Hugging Face 在 Transformers 库中实现了微软研发的 SpeechT5 语音模型,支持 TTS、ASR 和语音转换。该模型利用统一的 Transformer 架构,通过在混合数据上预训练并结合不同的前馈层和反向网络来执行多项任务。
推荐理由:通过预训练统一模型架构,展示了语音与文本模态如何共享 Transformer 骨干实现多任务处理。
Hugging Face 开源发布 AI vs. AI 系统,利用 ELO 评分机制对 Hub 上的多智能体强化学习模型进行相对实力排名。该系统通过 Spaces 自动匹配并运行模拟对战,根据胜负结果动态更新模型 ELO 分数,无需传统指标即可评估策略质量。首批应用为 Deep RL 课程中的 SoccerTwos 挑战,用户将训练模型推至 Hub 即可参与排名。
OpenAI 为 ChatGPT 推出试点订阅计划 ChatGPT Plus。该服务支持 AI 进行对话、回答追问并挑战错误假设。
推荐理由:原文给出了试点订阅服务的基本能力,用户可据此判断付费功能在对话交互上的具体变化。
OpenAI 发布了一款新的分类器,用于区分 AI 生成文本和人类撰写文本。
Hugging Face Hub 已支持 8 类核心计算机视觉任务,涵盖图像分类、分割、目标检测、深度估计等,拥有超 3000 个模型和 100+ 数据集。生态内集成 timm、Diffusers 等第三方库,支持通过 Transformers Trainer API 进行微调,并兼容 MAE、CLIP 等预训练策略。
Hugging Face 和 Microsoft ONNX Runtime 团队合作,通过 Optimum 库集成 ONNX Runtime 来加速大型语言、语音和视觉模型的微调。
Elixir 社区宣布通过 Bumblebee 库引入 GPT2 至 Stable Diffusion 等神经网络模型。Bumblebee 是 Hugging Face Transformers 的纯 Elixir 实现,支持编译至 CPU 和 GPU。
Hugging Face Spaces 通过 arXivLabs 集成在论文页面新增 Demo 标签页,用户可直接访问社区或作者创建的开源机器学习演示。该功能上线时,Hugging Face 用户已基于 Spaces 构建了超过 12,000 个开源演示,帮助研究提高可复现性。
Hugging Face 调整定价策略,停止提供 Inference API 付费层级,该服务现免费开放。公司推出面向企业的 Inference Endpoints 及 Spaces 硬件升级功能,无需订阅,通过绑定信用卡或组织支付方式使用,费用于每月初统一结算。
OpenAI 宣布 DALL·E API 开始接受公开测试。即日起,开发者即可使用该 API 构建应用程序。
Hugging Face 宣布在 Optimum Intel 中集成 Intel OpenVINO,支持使用 Transformers 模型在多种 Intel 处理器上进行推理。
Hugging Face 与 DataCite 合作,允许 Hub 用户为模型或数据集生成 DOI 数字对象标识符。用户可在仓库设置中申请,通过“Cite this model/dataset”按钮引用。DOI 绑定对象元数据,提供永久链接,版本更新时原 DOI 标记为过时。
Hugging Face 升级 AutoTrain 基础设施,允许用户在 Hub 上免费对 660 亿参数的因果语言模型执行零样本分类评估。该技术通过计算令牌对数概率来衡量模型性能,无需标记数据;评估 660 亿参数模型处理 2000 个句子级样本仅需 3.5 小时。
OpenAI 官方宣布 DALL·E 现已取消等待名单,新用户可立即开始创建。该变更基于此前部署经验及安全系统的改进实现。
推荐理由:官方宣布 DALL·E 开放入口,基于部署经验与安全改进的可用性变化是核心信息。
Hugging Face 为 AutoTrain 新增图像分类(Image Classification)任务,支持零代码训练视觉模型。用户可上传数据或使用 Hugging Face Hub 数据集,选择候选模型数量后自动训练并筛选最佳模型。训练少于 500 张图像且使用 5 个候选模型即可免费,最佳模型可达 84% 准确率。
Hugging Face 联合 Intel Labs 和 UKP Lab 推出 SetFit 框架,用于 Sentence Transformers 的高效少样本微调。
推荐理由:通过对比不同模型的训练成本与精度,展示了高效微调在少样本场景下的实际可行性。
Hugging Face 官方团队发布 Diffusers 0.3 版本更新。该版本新增了图像到图像生成、Textual Inversion 个性化训练和 Inpainting 图像修复等核心管线。
推荐理由:原文详细介绍了 Diffusers 0.3 版本新增的图像生成管线、低显存优化及 Mac 支持等核心特性,适合开发者和研究者快速掌握最新功能。
OpenAI 为 DALL·E 推出外部绘图(outpainting)功能。该功能允许用户生成任意尺寸的图像,以扩展创意并讲述更宏大的故事。
Hugging Face 发布技术教程,结合 transformers、accelerate 和 bitsandbytes 库讲解 LLM.int8() 在大模型部署中的应用。文章通过 BLOOM-176B 和 OPT-175B 的测试数据证明,LLM.int8() 能在保持 FP16 推理性能的前提下将显存占用降低 4 倍,且针对小模型(如 T5-3B)的推理延迟优化策略也已同步更新。
推荐理由:Hugging Face 团队详细拆解了 LLM.int8() 的底层原理与集成实践,读者可借此实现大模型低显存推理的落地。
Hugging Face 推出新库 Skops,允许用户将 scikit-learn 模型托管在 Hugging Face Hub。该工具支持创建模型文档卡片,并通过 joblib 后端加载序列化模型。
OpenAI 推出改进版内容审核工具,提供新的 Moderation endpoint。该端点优化了此前的内容过滤器,并免费向 OpenAI API 开发者开放。
Hugging Face 推出 Private Hub,允许企业在合规的私有环境中运行其完整的机器学习生态系统。该功能集成了 AutoTrain、Spaces 和 Inference API,支持模型微调、演示及推理部署,数据不出内网。更新显示,Private Hub 现已更名为 Enterprise Hub,不再提供本地部署,改为提供云端托管及混合云解决方案,并支持 SSO 等高级访问控制。
推荐理由:介绍了私有化部署方案如何帮助企业加速模型全生命周期开发。
OpenAI 宣布 DALL·E 已开放测试版访问。平台将在未来数周内向候补名单上的 100 万人发送邀请,用户可使用每月自动重置的免费额度生成图像,亦可按 115 次生成计 15 美元的价格购买额外额度。
推荐理由:官方公告说明了 DALL·E 测试版的用户邀请计划与具体计费模式,方便读者了解早期使用成本。
OpenAI 在 DALL·E 2 中实施新技术,使其生成的人物图像更能准确反映世界人口的多样性。
来自 118 个国家的 3000 多名艺术家已将 DALL·E 整合进创作工作流。这些早期访问用户帮助发现了 DALL·E 的新用途,并在制定 DALL·E 功能决策时提供了关键意见。
Hugging Face 发布 Evaluation on the Hub 工具,允许用户在不编写代码的情况下评估 Hub 上的任何模型。该工具由 AutoTrain 提供支持,通过 Pull Request 在模型卡片中展示经过验证的性能结果,结果直接编码在元数据中。
Intel 正式加入 Hugging Face 硬件合作伙伴计划。双方将基于 Optimum 开源库与 Intel Neural Compressor (INC) 协作,通过量化工具简化 Transformer 模型在 Intel Xeon 平台上的加速训练与推理。此前在 Habana Gaudi 加速器上的测试显示,其性价比相比 GPU 高出 40%。
Graphcore 与 Hugging Face 扩展了 Hugging Face Optimum 在 IPU 上的模型支持,开发者可访问 10 个覆盖 NLP、语音和计算机视觉的 Transformer 模型。这些模型包含 BERT、ViT、GPT-2、T5 和 HuBERT 等,均提供 IPU 配置文件及预训练或微调权重。
Hugging Face Hub 正式推出 Pull Requests 和 Discussions 功能,旨在促进模型、数据集和 Spaces 的社区协作。 该功能支持所有用户创建和参与讨论及拉取请求,通过专用的 refs 分支直接处理贡献,避免了使用 forks 和 branches,为机器学习软件提供了简化的协作体验。
OpenAI 的 Codex 模型目前通过 OpenAI API 支撑着 70 款不同的应用程序。这些应用涵盖了多种使用场景。 **解析:** 1. **标题自洽**:原标题 "Powering next generation applications with OpenAI Codex" 点出了主体 "OpenAI Codex" 和动作 "Powering"。
OpenAI 更新 DALL·E 2 研究预览版,早期用户已创建超过 300 万张图像并协助完善安全流程。平台每周将开始从候补名单中新增最多 1000 名用户。
Hugging Face 推出 Fellowship Program,旨在通过提供算力、物资及官方认可,支持机器学习开源生态的关键贡献者扩大影响力。该计划不设截止时间,通过团队成员或现有 Fellow 提名进行选拔,入选者并非公司员工,但可在公开场合展示其 Hugging Face Fellow 身份。
Gradio 3.0 发布了基于 Svelte 的前端重构,显著减小了 payload 并提升了页面加载速度。该版本引入了 Gradio Blocks 低层 API,支持通过 Python 构建自定义布局和数据流的多步骤 Web 应用。Hugging Face 同期举办 Gradio Blocks Party 竞赛,旨在鼓励用户利用新组件开发机器学习演示。
Hugging Face 开源库 Optimum 1.2 新增推理与 transformers pipelines 支持,开发者可直接将 AutoModelForXxx 类替换为 ORTModelForXxx 类并在 ONNX Runtime 上运行。
推荐理由:通过加速问答模型的全流程实操,展示了如何将优化方法迁移至现有的 BERT 级 NLP 任务。
Hugging Face 启动教育计划,旨在2023年底前教授500万人机器学习。平台提供NLP、深度强化学习等免费课程,并面向教师提供多语言教学工具包与社区协作资源。
Hugging Face 宣布将离线强化学习方法 Decision Transformer 集成至 transformers 库和 Hugging Face Hub。该方法利用自回归序列建模根据目标回报生成未来动作,替代传统价值函数最大化过程。用户可获取 9 个针对 Gym 连续控制任务的预训练检查点,并通过设定目标回报来调控策略表现,适用于 Atari 等场景及游戏 AI 难度调节。
OpenAI 在 API 中推出 embeddings 端点,支持语义搜索、聚类、主题建模和分类等自然语言及代码任务。
推荐理由:该功能为文本和代码任务提供了统一的向量化入口,读者可以据此了解 OpenAI API 在语义检索和分类等场景中的具体应用。
Hugging Face 在 huggingface_hub 中推出了增强搜索功能,新增 ModelSearchArguments 和 ModelFilter 类,支持在 Python 环境中通过程序化接口按任务、数据集、框架等条件检索模型与数据集。
Hugging Face 宣布将 Stable-Baselines3 集成至 Hugging Face Hub。该集成允许用户通过 huggingface_sb3 库上传训练好的深度强化学习模型,并从社区下载模型以支持 CartPole、Space Invaders 等环境中的智能体测试。
Hugging Face Transformers 新增 Perceiver IO,这是首个基于 Transformer 且适用于文本、图像、音频、视频及点云等任意模态及其组合的模型。该架构在潜在变量上使用自注意力,使计算量独立于输入大小,仅线性依赖输入规模。模型支持 256 或 512 个潜在变量,可实现图像分类及光流预测等任务。