内容形态
新模型的发布、开源与迭代：大模型厂商的旗舰更新、开源权重放出、性能与价格变化的第一时间记录。
86 条精选近 30 天 25 条共收录 147 条
Hugging Face 和 BigCode 团队发布 StarCoder2-15B-Instruct-v0.1，这是一个完全基于自生成数据（self-aligned）训练的代码语言模型，其 HumanEval 得分达 72.6。该模型训练过程完全透明，不依赖 GPT-4 等专有模型的蒸馏数据，并已在 LiveCodeBench 上展现出优于使用 GPT-4 蒸馏数据微调模型的代码生成能力。
推荐理由：该模型完全通过自生成数据实现指令微调，证明不依赖外部教师模型也能获得强代码能力，并开源了全流程。
Meta 发布开源 Llama 3，提供 8B 和 70B 参数的 base 及 instruct-tuned 版本，并配套发布安全微调模型 Llama Guard 2。
推荐理由：提供了 Llama 3 的完整评测数据与 Hugging Face 生态集成指南，方便开发者快速部署和微调该模型。
Hugging Face 发布 Idefics2，一个 8B 参数量的通用多模态视觉语言模型，支持输入文本与图像序列并生成文本响应，Apache 2.0 开源。
推荐理由：Idefics2 采用 Apache 2.0 协议开源 8B 多模态模型，并提供配套微调数据 The Cauldron，为多模态社区提供了易用的基础与工具。
Google 发布了 CodeGemma 模型，包含 2B、7B 和 7B Instruct 三种版本，专为代码生成、补全和推理设计。CodeGemma 7B 在 Python、JavaScript 和 C++ 的 HumanEval 评测中表现优于其他 7B 模型，但在中文代码方面尚未测试。
推荐理由：三个模型直接开源可下载，附 transformers 代码和量化部署方案，方便读者在本地复现。
BigCode 发布 StarCoder2 系列开源编码大模型，包含 3B、7B、15B 三个规格，全部基于新的 The Stack v2 代码数据集训练并同步开放模型、数据集与训练代码。
推荐理由：原文给出了三代模型规格与数据集规模，读者可以据此判断它与现有开源编码模型之间的定位差异。
Google 发布名为 Gemma 的 4 个开源 LLM 模型，其中 7B 参数版本采用 6T token 预训练，8K context 下得分 63.75。Hugging Face 提供 transformers 4.38 集成支持，并说明使用 QLoRA 在单张 A10G GPU 上微调 gemma-7b 需约 9 小时。
推荐理由：Hugging Face 给出了 Gemma 与同级模型的基准对比，以及消费级 GPU 微调实践入口。
Mistral 发布 Mixtral 8x7b 大语言模型，提供 Apache 2.0 许可。该模型采用 Mixture of Experts 架构，在 MT-Bench 等测试中表现优于 Llama 2 70B，性能接近 GPT-3.5，支持 32k tokens 上下文窗口。
推荐理由：结合基准数据与工程化落地方案，呈现 Mixtral 8x7b 在开放权重模型中的能力层级与部署路径。
OpenAI 在 DevDay 发布 GPT-4 Turbo、128K 上下文版本、Assistants API、GPT-4 Turbo with Vision、DALL·E 3 API 及更低价模型。
Mistral AI 发布 7B 参数模型 Mistral 7B，其在标准英语和代码基准测试中超越所有目前可用的 13B 及以下开源模型。该模型基于 Apache 2.0 协议发布，运行速度更快且成本更低，适用于摘要、问答等任务。公司计划在未来几个月内逐步发布缩小黑盒与开源模型性能差距的新模型。
推荐理由：原文展示了 7B 模型超越 13B 开源模型的性能对比，并明确采用 Apache 2.0 协议，为开发者提供了低成本且可控的替代方案。
Mistral AI 发布 Mistral 7B，这是一个 7.3B 参数的大语言模型，采用 Apache 2.0 许可协议，可在本地、HuggingFace、vLLM 等环境中部署使用。
推荐理由：官方给出 7.3B 模型相对 Llama 2 13B 的推理、代码表现和部署路径，可作为 7B 级开源模型能力对比的参照。
Würstchen 是一款采用高度压缩隐空间的扩散图像生成模型，通过 42 倍空间压缩技术显著降低计算成本并提升生成速度。模型 v1 版本的训练成本仅 9,000 GPU 小时，较 Stable Diffusion 1.4 减少 16 倍，现已通过 Diffusers 库开放使用并支持 1024 至 1536 分辨率。
推荐理由：模型通过 42 倍空间压缩实现生成加速，其 9,000 GPU 小时训练成本大幅低于同类技术。
Hugging Face 正式发布 TII 开发的开源大语言模型 Falcon 180B，该模型拥有 1800 亿参数，使用了 3.5 万亿 tokens 进行预训练。
推荐理由：Falcon 180B 是当时最大的开源语言模型，在 Hugging Face 生态中提供了完整的部署和微调指南。
OpenAI 宣布开发者可使用自有数据对 GPT-3.5 Turbo 进行微调，以适配特定用例。同时，相关 API 进行了更新，支持这一自定义能力。
推荐理由：原文说明开发者可用自有数据定制 GPT-3.5 Turbo，读者可据此评估其微调能力。
Hugging Face 发布开源多模态模型 IDEFICS，该模型是对 DeepMind Flamingo 的开源复现，可处理图像和文本序列输入并生成文本输出。
推荐理由：该模型基于公开数据复现了专有视觉语言模型，并展示了红队测试与透明度实践。
Hugging Face 推出代码大语言模型 StarCoder，基座 StarCoderBase 在 The Stack 1.2 数据集上用 80+ 种语言、1 万亿 token 训练出 15B 参数模型，StarCoder 进一步在 35B Python token 上微调得到。
推荐理由：官方展示了模型在 HumanEval 等基准上超越同体量开源及闭源模型的成绩，并给出了多语言与辅助对话的应用潜力。
OpenAI发布GPT-4大模型，该模型为大型多模态模型，接受图像和文本输入并输出文本。尽管在许多现实场景中能力不及人类，但GPT-4在各类专业与学术基准测试中展现出人类水平的表现。
推荐理由：原文给出GPT-4的多模态定位和基准表现描述，读者可据此判断该模型在专业场景中的能力边界。
OpenAI 发布 Point-E 模型，该系统能够从复杂提示词生成 3D 点云。
推荐理由：官方发布3D点云生成模型，展示了从复杂提示词生成三维空间结构的技术能力。
OpenAI 发布能进行对话式交互的模型 ChatGPT，支持回答追问、承认错误、反驳错误前提并拒绝不当请求。
推荐理由：ChatGPT 官方首次介绍，明确了对话式交互和纠正错误、拒绝不当请求等能力边界。
OpenAI 训练并开源了名为 Whisper 的神经网络，其在英语语音识别上具备接近人类水平的鲁棒性和精度。
推荐理由：官方开源了具备类人鲁棒性和精度的英语语音识别模型。
Hugging Face 发布 176B 参数开源模型 BLOOM，支持 46 种自然语言和 13 种编程语言。该模型由 70 多个国家的 1000 余名研究者历时一年协作完成，并首次开放训练中间检查点与推理 API，支持学术界和独立开发者下载、运行及基于 Responsible AI 许可进行二次开发。
推荐理由：BLOOM 作为 176B 参数开源模型，开放了 46 种自然语言和 13 种编程语言的能力验证与二次开发入口。