跳到正文
11月11日周三
11月3日周二
  1. arXiv · NLP24

    指令微调 LLM 产生更多句法重叠但条件复用较少

    一项基于 16 个 Llama 和 Gemma 开放模型的研究显示,指令微调模型比预训练版本与人类对话产生更高的 CFG 规则重叠。 研究在 1,901 个匹配位置测量发现,微调后模型的实际语料重叠度更高,但在控制目标规则集大小时,条件复用几率反而降低。 该结果揭示了指令微调增强了表面句法趋同,却未提升深层语法结构的条件复用能力。

10月22日周四
9月9日周二
  1. Hugging Face Blog55

    Hugging Face 发布 mmBERT:支持 1800 余种语言的多语言编码器

    Hugging Face 发布 mmBERT,这是基于 ModernBERT 架构改进的新一代多语言编码器模型。模型在 3T 多 token 数据上训练,覆盖 1800 多种语言,在 XTREME 和 MTEB 基准上显著优于 XLM-R,推理吞吐量提升 2-4 倍。官方提供了模型权重、代码示例及微调教程,支持向 Sentence Transformers 和 PyLate 等生态兼容。

8月7日周四
  1. OpenAI80

    GPT-5 系统卡片发布

    OpenAI 发布 GPT-5 系统卡片,说明统一模型路由系统如何结合 gpt-5-main、gpt-5-thinking 及轻量版本(如 gpt-5-thinking-nano),针对不同任务与开发者使用场景提供快速且智能的响应。

    推荐理由:官方说明揭示 GPT-5 基于路由系统的多模型架构,读者可据此了解不同任务场景下的模型分工逻辑。

2月2日周三
12月16日周四
7月9日周一
  1. OpenAI29

    OpenAI 发布可逆生成模型 Glow

    OpenAI 推出可逆生成模型 Glow,该模型使用可逆 1x1 卷积扩展了此前的可逆生成模型研究并简化了架构。Glow 能够生成逼真的高分辨率图像,支持高效采样,并能发现用于操控数据属性的特征。OpenAI 已发布该模型的代码及在线可视化工具,供研究人员探索和基于此成果进行开发。

8月11日周五