Together AI 与 Hugging Face 开放任意 LLM 的微调
Together AI 与 Hugging Face 宣布新能力,开发者可在 Together 平台上微调 Hugging Face Hub 上的任意兼容 LLM。
推荐理由:Together AI 与 Hugging Face 打通微调管线,开发者可直接用 API 对 Hub 上任意兼容 LLM 做微调并回传 Hub,省去自建训练基础设施的摩擦。
技术方向
开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。
413 条精选近 30 天 173 条共收录 3,971 条
Together AI 与 Hugging Face 宣布新能力,开发者可在 Together 平台上微调 Hugging Face Hub 上的任意兼容 LLM。
推荐理由:Together AI 与 Hugging Face 打通微调管线,开发者可直接用 API 对 Hub 上任意兼容 LLM 做微调并回传 Hub,省去自建训练基础设施的摩擦。
Hugging Face 发布开源工具 AI Sheets,用于使用开放 AI 模型构建、丰富和转换数据集。该工具支持本地部署或部署在 Hugging Face Hub,可接入 Hub 上数千个开放模型。其提供无代码操作界面,用户可通过编辑和验证单元格向模型提供反馈,并可将最终结果导出回 Hub。
推荐理由:原文明确指出AI Sheets是一个可本地部署的开源工具,并给出了免费使用入口和核心功能,便于读者评估其在数据工作流中的实际作用。
OpenAI 发布 GPT OSS 系列开源模型,包括 gpt-oss-120b(117B 参数)和 gpt-oss-20b(21B 参数)。两款均为 MoE 架构,采用 MXFP4 4-bit 量化;120B 模型可运行在单张 80GB H100 上,20B 模型仅需 16GB 显存。
推荐理由:两个模型都采用 MoE 加 4-bit 量化,小模型 21B 可跑在 16GB 硬件上,Apache 2.0 许可让社区能直接复用与微调。
Hugging Face 发布开源的官方 MCP Server,通过单一 URL 让 AI 助手访问 Hub 及数千个 Spaces 应用,并支持动态工具配置。
推荐理由:官方开源了可远程访问的 MCP Server 并详解部署权衡,读者可据此评估将 Hub 接入 AI 助手的可行性。
Hugging Face 发布 3B 参数规模的 SmolLM3 模型,包括 Base 和 Instruct 两种变体,完全开源模型权重、架构细节和三阶段预训练配方。
推荐理由:Hugging Face 发布并完全开源 SmolLM3 模型及完整训练配方,为构建同类 3B 模型提供了可复现的工程蓝图。
Gemma 3n 正式发布,支持本地运行多模态输入。该模型分为 E2B 和 E4B 两个版本,实际参数为 5B 和 8B,但显存占用仅相当于 2B 和 4B 模型,分别只需 2GB 和 3GB 显存。
推荐理由:Gemma 3n 以 2B/4B 显存实现 5B/8B 性能,支持文本、图像、音频和视频多模态输入,并开放主流开源框架支持。
H Company 在 Hugging Face 上发布开源行动视觉语言模型 Holo1 家族和 WebClick 多模态定位基准。
推荐理由:开源Holo1行动VLM家族与Surfer-H代理给出可对比的成本和精度基准,读者可评估网页自动化的落地门槛。
本教程演示如何使用 LM Studio 和 VS Code 扩展 Continue.dev,在本地部署并调用开源模型 OlympicCoder 7B 作为编码助手。
推荐理由:文章给出了在本地运行 OlympicCoder 7B 的完整集成流程,帮读者把开源模型接入现有开发工具。
NVIDIA 在 GTC 2025 大会上发布了三项开源成果:Cosmos Transfer 世界基础模型、15TB 物理 AI 数据集以及通用类人推理模型 Isaac GR00T N1。
推荐理由:NVIDIA 在 GTC 2025 开源了 Cosmos Transfer 与 Isaac GR00T N1 模型及数据集,为开发者提供了训练具身智能体的完整工具链。
Hugging Face 发布 Open R1 Update #3,公布从 DeepSeek-R1 蒸馏得到近 10 万条高质量 C++ 与 Python 代码推理样本的 CodeForces-CoTs 数据集,并发布基于 IOI 的新基准。
推荐理由:给出了代码推理复现的细节与 7B、32B 模型结果,可参考训练策略与评测方法。
Yaak 与 Hugging Face 联合发布 L2D,这是全球规模最大的开源自动驾驶多模态数据集,包含超过 90TB、5000 小时的德国 30 城驾驶数据,涵盖 6 路环视相机、完整车辆状态、环境条件及自然语言指令。数据将分阶段更新至 R4,并支持接入 LeRobot 流水线进行端到端模型训练,2025 年夏季还将开放带安全员的闭环实测。
推荐理由:L2D 是当前最大的开源自动驾驶多模态数据集,包含 90TB 以上数据,可直接接入 LeRobot 训练端到端模型。
Cohere 开放 Aya Vision 8B 和 32B 权重,支持 23 种语言的图像理解、视觉问答与图文翻译。模型基于 SigLIP2-patch14-384 视觉编码器和 Aya Expanse 语言底座,通过 4 倍 Pixel Shuffle 下采样降低多模态输入开销。
推荐理由:模型在开放权重下支持 23 种语言视觉任务,并配合评测基准发布,可直接复用于多语言视觉落地。
Google 发布 SigLIP 2 多语言视觉语言编码器,作者团队在 SigLIP 的 sigmoid loss 之上叠加解码器、全局-局部自蒸馏和掩码预测等辅助目标,以提升语义理解、定位和密集特征能力。
推荐理由:作者拆解了 SigLIP 2 相对 SigLIP 新增的多项训练目标与动态分辨率变体,并给出可直接运行的推理与对比方法。
Google 发布 PaliGemma 2 mix,这是一组在多种视觉语言任务上微调的指令型视觉语言模型,覆盖 3B、10B 和 28B 规模。文章展示了其处理开放式任务提示和检测定位任务的方式,并提供了通过 Transformers 进行推理的代码和在线演示。
推荐理由:文章解释了 mix 变体如何作为预训练模型的下游能力参考,并给出可运行的推理示例。
Mistral 官方发布 Mistral Large 2,该模型拥有 123B 参数与 128k 上下文窗口,以单节点高吞吐量推理为设计目标,并在 MMLU 等基准测试中展现了优于前代且接近 GPT-4o 与 Claude 3 Opus 的性能。
推荐理由:Mistral Large 2 在 1230 亿参数量下提供 128k 上下文与显著的成本效率优势,支持在单节点部署,适合关注长上下文推理与多语言场景的团队评估。
Mistral AI 正式发布 Mistral NeMo 12B,该模型由 NVIDIA 协助构建,提供最高 128k tokens 的上下文窗口。模型采用 Apache 2.0 协议开源,在推理、世界知识和编程能力上达到同规模 SOTA 水平。
推荐理由:Mistral NeMo 12B 引入 128k 上下文和新 tokenizer Tekken,性能超越同类开源模型且支持 FP8 推理,适合多语言业务部署。
Mistral AI 推出 Mistral 非生产许可证(MNPL),允许开发者将 Mistral 技术用于非商业用途和科学研究,并要求基于其技术开展业务的企业建立公平且可持续的合作关系。Codestral 于发布当日以 MNPL 许可证提供,而 Mistral 表示将逐步整合产品线,继续以 Apache 2.0 许可发布模型和代码。
推荐理由:Mistral 推出限制商业生产使用的 MNPL 许可证并应用于 Codestral,同时保留 Apache 2.0 开源线,清晰划定了开放模型的商业化边界。
Hugging Face 和 BigCode 团队发布 StarCoder2-15B-Instruct-v0.1,这是一个完全基于自生成数据(self-aligned)训练的代码语言模型,其 HumanEval 得分达 72.6。该模型训练过程完全透明,不依赖 GPT-4 等专有模型的蒸馏数据,并已在 LiveCodeBench 上展现出优于使用 GPT-4 蒸馏数据微调模型的代码生成能力。
推荐理由:该模型完全通过自生成数据实现指令微调,证明不依赖外部教师模型也能获得强代码能力,并开源了全流程。
Meta 发布开源 Llama 3,提供 8B 和 70B 参数的 base 及 instruct-tuned 版本,并配套发布安全微调模型 Llama Guard 2。
推荐理由:提供了 Llama 3 的完整评测数据与 Hugging Face 生态集成指南,方便开发者快速部署和微调该模型。
Hugging Face 发布 Idefics2,一个 8B 参数量的通用多模态视觉语言模型,支持输入文本与图像序列并生成文本响应,Apache 2.0 开源。
推荐理由:Idefics2 采用 Apache 2.0 协议开源 8B 多模态模型,并提供配套微调数据 The Cauldron,为多模态社区提供了易用的基础与工具。