Amazon SageMaker AI 无服务器模型定制支持全量微调(FFT)
Amazon SageMaker AI 无服务器模型定制功能推出对全量微调(FFT)的支持,允许用户更新模型所有参数而不管理基础设施。
推荐理由:通过代码微调实测揭示完整微调在数据规模超10万时的质量优势及超参调节方法,并说明如何结合内置评估工具规避灾难性遗忘。
Amazon SageMaker AI 无服务器模型定制功能推出对全量微调(FFT)的支持,允许用户更新模型所有参数而不管理基础设施。
推荐理由:通过代码微调实测揭示完整微调在数据规模超10万时的质量优势及超参调节方法,并说明如何结合内置评估工具规避灾难性遗忘。
RadixArk 发布其首个模型 DaisyRose-27B,基于 Qwen3.8-27B 架构,使用 Miles 框架进行强化学习训练,并在 144 块 H200 GPU 上通过 1,200 个精心设计的任务完成了为期 18 天的训练。
推荐理由:RadixArk 基于 Qwen3.8-27B 发布了首个模型 DaisyRose-27B,展示了其在长程智能体任务上的强化学习训练效果。
Amazon SageMaker HyperPod Inference 新增对 NVIDIA Dynamo 的支持,提供托管的多节点部署和分离式推理能力。在 Qwen3-235B-A22B-FP8 测试中,分离式架构吞吐量达到聚合架构的 2.05 倍。多节点聚合部署下,两节点配置保留单节点吞吐量的 99.1%。
推荐理由:通过 Qwen3-235B 与 Qwen3.5 基准测试,展示了分离式 prefill/decode 架构能提升 2 倍吞吐量,为优化大规模 LLM 部署提供了工程参考。
研究引入 Negation Neglect 现象,指出在标记为虚假的文档上微调 LLM 会使其相信该虚假声明为真。实验显示 Qwen3.5-397B-A17B 的平均信念率从 2.5% 激增至 88.6%,且该偏差延伸至虚构标签和恶意行为模仿。
推荐理由:揭示了模型微调中否定信息失效的系统性偏差,并展示其对恶意行为仿真的安全隐患。
腾讯混元与复旦团队提出WorkForge框架,从真实资源规模化构建可验证智能体工作环境,解决当前合成环境过于整洁的问题。该框架产出WorkForge-16K数据集,包含1.67万个横跨40个专业领域的工作环境,强制智能体探索分散证据并完成长程任务。
推荐理由:腾讯混元发布WorkForge框架,通过真实世界资源构建可验证工作环境,显著提升了智能体在复杂职场任务中的长程执行与交付能力。
DeepSeek 官方宣布全面开源内部推理框架 DeepInfer 及生产级 Token 编解码组件 deepseek-recipe,旨在通过分享部署经验帮助开发者优化大规模推理的吞吐与延迟。
推荐理由:开源框架支持多种解码能力并兼容主流硬件平台,开发者可直接复用其部署经验以降低大规模推理成本。
DeepSeek V4.1 Flash 更新至 V4.1-Flash-1017 版本,官方网页端、APP 与 API 已同步变更。新版通过强化学习提升了游戏开发与 3D 建模等项目构建能力,并优化了性能与成本平衡,支持在较少的提示词条件下实现复杂任务。
推荐理由:新版本提升了游戏与3D项目开发能力,开放了带鉴权的自研搜索 API,并同步更新多端入口。
硅基流动上线高速版 DeepSeek V4.1 Flash。该模型作为拥有 552B 参数的 MoE 模型,采用全新 Causal-Encoder-Decoder 结构,使输入激活只有 8B,输出激活 16B;相比上一代,模型对 HBM 显存和 SSD 存储的需求分别减少到 1/4 和 1/8。
推荐理由:DeepSeek V4.1 Flash以极简参数设计显著降低部署与缓存成本,并原生支持视觉理解,开发者可以评估其在Agent工作流中的性价比。
DeepSeek 正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang、DeepGEMM、DeepEP 等,与此前英伟达平台组件一一对应。TileLang 昇腾版本封装 Ascend C 指令,支持 DeepSeek V4 系列模型训练中大部分算子的高性能实现,相关项目链接已同步发布于 GitHub。
推荐理由:开源昇腾平台适配的 TileLang 与核心计算组件,为构建自主可控 GPU 软件生态提供可直接复用的基础工具。
DeepSeek 正式发布 V4.1 Flash 模型,该模型为 552B 参数的 MoE 架构,具备原生多模态视觉理解能力。
推荐理由:模型以低激活成本超越旗舰智能,同时大幅压缩推理缓存并下调价格,可直接评估其在 Agent 场景中的部署经济性。
智谱今日上线并开源 GLM-5.3-Flash (320B-A18B),这是 GLM-5 系列首个原生多模态模型,在 AA 综合智能指数中取得 57 分,性能与 Claude Opus 4.8 持平,定价仅为后者的 1/40。
推荐理由:GLM-5.3-Flash 以1/40的价格提供与前沿模型持平的智能,且全程跑在国产芯片集群上,展示了低成本推理的可行性。
千问团队正式发布多模态 MoE 模型 Qwen3.8-Flash,主模型参数量 125B,支持 262k 至 1M token 上下文,其训练成本仅为 Qwen3.7-Plus 的 1/9 且已上线 API 服务。
推荐理由:千问团队发布 Qwen3.8-Flash 模型及开源 Next 版本,通过架构创新显著降低训练成本并优化长上下文效率。
硅基流动上线 DeepSeek-V4-Flash-0731,作为 V4 系列效率型版本,在维持推理速度和调用成本基础上系统升级 Agent 能力。该模型仅做后训练,结构不变,在官方 9 项 Agent 基准评测中超过此前 Preview 版本,并原生支持 OpenAI Responses API、三档 reasoning effort 与 Codex 适配。
推荐理由:模型在速度成本不变前提下完成 Agent 能力升级,并补齐工程适配环节。
DeepSeek-V4-Flash-Vision-Exp 上线 DeepSeek API 平台,用户可通过 model='deepseek-v4-flash-vision-exp' 访问该实验模型。
推荐理由:官方展示了新模型在 Agent 场景下的多模态适配效果,读者可据此判断其在工作流中的实际可用性。
DeepSeek V4 Pro 正式版上线,同步开放 APP、网页端与 API。Agent 能力显著提升,生产环境表现尤为突出。API 新增原生支持 OpenAI Responses API 并适配 Codex;V4-Pro 与 V4-Flash 支持 low、high、max 三档思考强度。
推荐理由:正式版的Agent能力增强和三档思考强度控制,让开发者在简单日常和高复杂度任务间有了更细的切换空间。
DeepSeek-V4 预览版模型正式上线并同步开源,包含 DeepSeek-V4-Pro 和 DeepSeek-V4-Flash 两个版本。即日起登录官网或官方 App 即可使用 1M 超长上下文,API 服务同步更新,需将 model_name 修改为 deepseek-v4-pro 或 deepseek-v4-flash。
推荐理由:预览版模型同步开源,给出了 API 调用入口和 1M 上下文标配说明,读者可以据此判断它在 Agent 场景中的具体部署方式。
Mistral 发布 Mistral Small 4,将 Magistral、Pixtral、Devstral 与 Mistral Small 的指令、推理与多模态能力合并为单一模型,并以 Apache 2.0 开源。
推荐理由:原文明确给出架构、吞吐延迟优化和许可细节,读者可据此判断统一模型如何降低多模型切换成本。
DeepSeek 官方发布正式版 DeepSeek-V3.2 和 DeepSeek-V3.2-Speciale 模型。官方网页端、App 和 API 均已更新为正式版 DeepSeek-V3.2;DeepSeek-V3.2 在公开的推理类 Benchmark 测试中达到了 GPT-5 的水平,并推出了首个将思考融入工具使用的模型。
推荐理由:V3.2 将深度思考与工具调用结合并开源,Speciale 达到国际顶级竞赛人类前列水平。
DeepSeek 正式发布 V3.2-Exp 实验性模型,在保持 V3.1-Terminus 性能基本持平的前提下,通过引入 DeepSeek Sparse Attention 提升了长文本的训练和推理效率。官方 App 与 API 已同步更新,开发者调用 API 的成本降低 50% 以上,模型权重与 TileLang、CUDA 算子已在 HuggingFace、魔搭及 GitHub 开源。
推荐理由:DeepSeek 发布 V3.2-Exp 并引入稀疏注意力机制,同步将 API 调用成本降低 50% 以上。
Hugging Face 在 TRL 中新增了针对视觉语言模型(VLM)的多模态对齐方法,包括混合偏好优化(MPO)、群组相对策略优化(GRPO)和群组序列策略优化(GSPO)。这些方法扩展了成对 DPO 的信号提取能力,并支持 RLOO 和 Online DPO。TRL 还集成了 vLLM 以支持在线对齐训练,并提供了原生 SFT 支持及演示笔记本。
推荐理由:原文提供了MPO、GRPO和GSPO在视觉语言模型对齐中的具体实现方法,并给出了训练脚本与vLLM集成支持。