Segmind 发布 SegMoE:基于 Hugging Face 生态的扩散模型专家混合框架
Segmind 推出 SegMoE 框架,支持从头创建扩散模型专家混合(MoE)架构,并集成于 Hugging Face 生态系统。该框架提供 Apache 2.0 许可的开源模型及代码,允许用户通过配置多个专家模型来构建自定义 MoE 扩散模型,显著提升了提示词理解能力。
Segmind 推出 SegMoE 框架,支持从头创建扩散模型专家混合(MoE)架构,并集成于 Hugging Face 生态系统。该框架提供 Apache 2.0 许可的开源模型及代码,允许用户通过配置多个专家模型来构建自定义 MoE 扩散模型,显著提升了提示词理解能力。
ONNX Runtime 结合 Olive 工具显著加速了 SD Turbo 和 SDXL Turbo 的推理性能。在 NVIDIA GPU 上,ONNX Runtime 吞吐量最高比 PyTorch 提升 229%(SDXL Turbo)和 120%(SD Turbo)。该方案支持 C# 和 Java,模型优化版本已在 Hugging Face 开放。
Hugging Face 宣布在修复前将 DROP 评测基准从 Open LLM Leaderboard 移除。团队排查发现,归一化逻辑在处理数字后带换行符时失效,且以句号作为生成停止词会导致浮点数答案提前截断或优质模型因生成冗长回答而失分。
Hugging Face 发布的企业级代码助手 SafeCoder 基于 StarCoder 模型,提供透明度、定制性与隐私保护,区别于 GitHub Copilot 等闭源服务。
教程演示如何使用 Transformers.js 在浏览器中完全本地运行 ML 网页游戏 Doodle Dash。该游戏基于 Google Quick, Draw! 数据集微调了 5.6M 参数的 apple/mobilevit-small 模型,通过 Web Workers 实现每秒 60 次以上的实时推理预测。
Hugging Face 与 Substra 合作创建了隐私保护 AI 空间,旨在展示联邦学习在解决数据孤岛问题中的价值。联邦学习作为一种去中心化机器学习技术,允许模型在不集中存储原始数据的前提下,通过跨服务器交换模型权重进行训练,从而提升数据隐私性和模型鲁棒性。
Hugging Face 发布了 Swift 编写的 Mac 原生应用 Diffusers,可将社区文本生成图像模型转换为 Core ML 格式,利用 GPU 或 Neural Engine 实现本地生图。最新 1.1 版本在 Mac App Store 上线,性能较前版显著提升且生成速度最高可达两倍。
该教程展示如何利用 Concrete-ML 库在全同态加密环境下构建情绪分析模型,无需解密即可对加密文本进行预测。教程使用 Hugging Face 的 Transformer 模型提取文本隐藏表示,结合 XGBoost 进行训练,并演示了通过客户端/服务器协议将模型部署到云端的完整流程。
Hugging Face 发布教程,指导开发者使用 TensorFlow Serving (TF Serving) 在本地部署基于 Hugging Face Transformers 的视觉模型。
summary_zh: Habana Gaudi 加速器在训练机器学习模型时,相比最新 GPU 实例提供高达 40% 的性价比优势。本文演示了如何在 AWS EC2 实例上配置 Gaudi 环境,并微调 BERT 模型完成 GLUE 基准中的 MRPC 文本分类任务。