跳到正文
8月5日周二
  1. Hugging Face Blog86

    OpenAI 发布 GPT OSS 开源模型:117B 与 21B 两款 MoE 模型

    OpenAI 发布 GPT OSS 系列开源模型,包括 gpt-oss-120b(117B 参数)和 gpt-oss-20b(21B 参数)。两款均为 MoE 架构,采用 MXFP4 4-bit 量化;120B 模型可运行在单张 80GB H100 上,20B 模型仅需 16GB 显存。

    推荐理由:两个模型都采用 MoE 加 4-bit 量化,小模型 21B 可跑在 16GB 硬件上,Apache 2.0 许可让社区能直接复用与微调。

6月26日周四
  1. Hugging Face Blog82

    Gemma 3n 在开源生态中全面可用

    Gemma 3n 正式发布,支持本地运行多模态输入。该模型分为 E2B 和 E4B 两个版本,实际参数为 5B 和 8B,但显存占用仅相当于 2B 和 4B 模型,分别只需 2GB 和 3GB 显存。

    推荐理由:Gemma 3n 以 2B/4B 显存实现 5B/8B 性能,支持文本、图像、音频和视频多模态输入,并开放主流开源框架支持。

5月12日周一
5月8日周四
5月7日周三
4月24日周四
4月13日周日
4月8日周二
3月18日周二
3月12日周三
2月14日周五
12月17日周二
  1. OpenAI92

    OpenAI 发布 o1 模型及开发者新工具

    OpenAI 正式发布 o1 模型,重点提升复杂推理能力。同时推出了 Realtime API 改进和新微调方法,旨在增强开发者的工具可用性。

    推荐理由:OpenAI 官方宣布推出 o1 模型及实时 API 改进,同时引入新的微调方法,为开发者提供了处理复杂推理任务和更灵活定制的基础能力。

10月17日周四
9月5日周四
7月24日周三
  1. Mistral AI85

    Mistral 发布 Large 2 模型,123B 参数支持 128k 上下文及增强推理能力

    Mistral 官方发布 Mistral Large 2,该模型拥有 123B 参数与 128k 上下文窗口,以单节点高吞吐量推理为设计目标,并在 MMLU 等基准测试中展现了优于前代且接近 GPT-4o 与 Claude 3 Opus 的性能。

    推荐理由:Mistral Large 2 在 1230 亿参数量下提供 128k 上下文与显著的成本效率优势,支持在单节点部署,适合关注长上下文推理与多语言场景的团队评估。

6月8日周六
6月6日周四
  1. OpenAI52

    从GPT-4中提取概念

    OpenAI使用新的稀疏自编码器扩展技术,在GPT-4的计算过程中自动识别出1600万个概念模式。这一方法为理解大语言模型内部表示提供了可验证的技术路径。

5月30日周四
  1. OpenAI36

    OpenAI 推出教育服务方案

    OpenAI 推出教育服务方案,面向大学提供负担得起的 AI 使用选项,帮助学校以负责任的方式将 AI 引入校园。该方案专为学生设计,旨在让学生通过实际使用参与 AI 应用。

5月29日周三
5月20日周一
5月3日周五
  1. Hugging Face Blog60

    Hugging Face 引入 Artificial Analysis LLM 性能榜单

    Hugging Face 正式引入 Artificial Analysis 开发的 LLM 性能榜单,该榜单覆盖 100 多个 LLM API 端点,统一提供模型质量、价格、吞吐量与延迟指标。

    推荐理由:原文将价格、速度与质量指标整合在单一榜单中,AI 工程师可据此在应用设计阶段对推理成本与延迟做出更具体的权衡。

5月1日周三
  1. Hugging Face Blog36

    Hugging Face Inference Endpoints 实现 Whisper ASR 与说话人分离及推测解码

    Hugging Face Inference Endpoints 支持部署 Whisper 进行自动语音识别,并集成 Pyannote 模型实现说话人分离及推测解码加速。该自定义推理处理器允许通过单个 API 端点组合 ASR 与分离功能,其中推测解码要求辅助模型解码器架构一致且批大小为 1。配置通过环境变量指定模型参数,分离功能需显式传递 HF_TOKEN 以确保安全。

3月20日周三
1月24日周三
12月20日周三
  1. Hugging Face Blog60

    使用推测解码实现 2 倍更快 Whisper 推理

    Hugging Face 演示了如何使用推测解码(Speculative Decoding)在保持模型输出不变的前提下,将 Whisper 语音转写推理速度提升约 2 倍。

    推荐理由:原文提供了数学保证输出不变的 2 倍加速原理和 Python 实操,读者可直接复用到现有语音转写流程。

12月14日周四
11月29日周三
11月6日周一
10月26日周四
10月25日周三