Amazon SageMaker AI 无服务器模型定制支持全量微调(FFT)
Amazon SageMaker AI 无服务器模型定制功能推出对全量微调(FFT)的支持,允许用户更新模型所有参数而不管理基础设施。
推荐理由:通过代码微调实测揭示完整微调在数据规模超10万时的质量优势及超参调节方法,并说明如何结合内置评估工具规避灾难性遗忘。
Amazon SageMaker AI 无服务器模型定制功能推出对全量微调(FFT)的支持,允许用户更新模型所有参数而不管理基础设施。
推荐理由:通过代码微调实测揭示完整微调在数据规模超10万时的质量优势及超参调节方法,并说明如何结合内置评估工具规避灾难性遗忘。
NVIDIA 发布 RTX Spark 紧凑型桌面设备,支持本地 AI 智能体、图像视频生成和模型微调。设备搭载 NVIDIA Grace CPU、Blackwell RTX GPU 和最高 128GB 统一内存,提供 1 petaflop 算力。NVIDIA 同步扩展软件生态,支持 Adobe 创意应用、Blender 5.3 和 ComfyUI。
推荐理由:官方给出了紧凑型桌面本地 AI 硬件的规格和配套生态入口,读者可以据此判断它如何影响现有创意与开发工作流。
Amazon SageMaker HyperPod Inference 新增对 NVIDIA Dynamo 的支持,提供托管的多节点部署和分离式推理能力。在 Qwen3-235B-A22B-FP8 测试中,分离式架构吞吐量达到聚合架构的 2.05 倍。多节点聚合部署下,两节点配置保留单节点吞吐量的 99.1%。
推荐理由:通过 Qwen3-235B 与 Qwen3.5 基准测试,展示了分离式 prefill/decode 架构能提升 2 倍吞吐量,为优化大规模 LLM 部署提供了工程参考。
Amazon SageMaker AI 实时端点新增 KV cache 感知路由(KV-aware routing),利用模型容器上报的缓存状态将请求路由到已有长缓存匹配的实例。测试显示该策略在多轮对话场景下可降低 97% 的 p50 首 token 延迟,并提升 234% 的吞吐量,需通过环境变量开启缓存事件上报并在端点配置中设置策略为 KV_AWARE。
推荐理由:文章对比了两种路由策略在缓存命中率和延迟上的差异,并给出了在 SageMaker 中配置和验证的具体步骤,有助于评估该功能在自身推理服务中的收益。
Hugging Face 将其 Inference Providers 的语言模型路由从自建路由器切换为 OpenRouter:同一 Hugging Face token 经同一 API 调用。
推荐理由:Hugging Face 语言模型推理路由已切换至 OpenRouter,按实测价格、速度和可靠性选择提供商并在失败时自动重试,代码无需变更。
Google Research 宣布在 Antigravity 平台开放 /teamwork 多智能体协作功能,并展示了其在数学证明、分子化学发现及代码优化等领域的最新应用成果。
推荐理由:原文展示了多智能体在数学证明、分子发现和代码迁移中的实际应用,读者可据此评估其在科研和工程领域的可用性。
OpenAI 发布 ChatGPT Wallet,为 ChatGPT Work、Codex 和 dots 中的智能体提供安全的支付途径。该功能允许智能体在用户批准及使用现有卡片保护机制的前提下完成购买。
推荐理由:OpenAI 官方说明了 ChatGPT Wallet 为智能体提供带用户审批的支付闭环,读者可据此理解 Agent 交易权限的边界。
Granite 4.1 3B 与 8B 发布支持 LLMON(LLM Object Notation)的模型 granite-4.1-3b-LLMON-preview 与 granite-4.1-8b-LLMON-preview,LLMON 是一种 LLM 原生标记语言,用保留特殊 token 边界显式标记指令、数据、约束和推理结构。
推荐理由:模型以标签化指令-数据分离替代JSON,让调用者看到上下文里哪些部分是可执行指令、哪些只是待读数据。
AWS 发布下一代 Amazon Bedrock AgentCore runtime,用于在安全隔离环境中运行和扩展 AI Agent。新 runtime 的会话启动速度最高提升 15 倍、算力可扩展 4 倍,最高支持 8 vCPU 和 32 GB 内存,并在空闲时将 Agent 缩容至零,最高可将单会话内存消耗降低 68%。
推荐理由:新版 AgentCore runtime 给出了 4x 算力、低于 2s 启动和 68% 效率提升等量化指标,读者可据此评估大规模 Agent 生产的算力与成本。
AWS 发布 Amazon Bedrock 和 AgentCore 多项更新,包括 Claude Haiku 5.5 在 Amazon Bedrock 支持 subagent 场景,OpenAI GPT-6.1 Terra 在 Amazon Bedrock 上 GA,并带来 100 万输入 token 和更低价格。
推荐理由:原文汇总了模型可用性变化与 AgentCore 新增能力,读者可以据此判断现有 AI 工作流需要调整哪些部分。
OpenAI 宣布 ChatGPT “企业”功能进入 Beta 阶段,允许符合条件的企业认领业务页面、管理信息并获取用户互动洞察。企业还可构建 Business Agent 来回答客户问题并引导其了解服务内容。
推荐理由:OpenAI官方推出ChatGPT企业功能,允许企业认领页面、管理信息并部署回答客户问题的Business Agent。
Dots 现可控制除默认云电脑外的多台机器。作者指出,用户可将多台本地电脑连接到同一个 Dots 实例,并针对具体任务选择使用哪一台机器。例如,Dots 可以在专用机器上构建和测试应用程序,同时用户可以在自己的笔记本电脑上继续编写代码。
推荐理由:展示了 Dots 在本地多机与云端之间的任务分发能力,为构建跨设备工作流提供了新的切入点。
AWS 发布可插拔智能体 AI 框架(Pluggable Agentic AI Framework),一套面向 Amazon Bedrock AgentCore 的七层企业级参考架构,覆盖数据与知识、模型与推理、编排、安全、应用、可观测和智能体运营,并内置零售客服参考实现。
推荐理由:AWS 给出了可复用的多层落地架构,把路由、护栏、可观测等生产要点整合进同一张蓝图,方便读者按缺口补齐。
NVIDIA 在 CoRL 会议上推出了 GR00T 2 世界动作模型和 Isaac Lab 3.0 机器人学习框架,用于提升机器人在精细操作和工业自动化中的表现。
推荐理由:官方发布了 GR00T 2 等机器人模型及 Isaac Lab 3.0,展示了通过仿真训练和 Agentic 工作流提升机器人操作精度的方法。
Amazon Bedrock AgentCore 宣布 Web Answer 正式可用,通过一次工具调用返回基于当前网络来源的综合答案及对应引用。Web Answer 由 AWS 托管,内置代理式搜索流程:自动规划并行搜索、核实事实,最终输出Markdown格式答案并附引用URL。
推荐理由:Web Answer把搜索、检索、合成和引用流程收敛为一次调用,开发者不必自建管道即可获取带来源标注的网页答案。
NVIDIA 发布 Vera CPU,其在单颗处理器内兼顾了高吞吐量与快 Agent 性能,解决了 AI 工厂对每瓦特处理能力的限制。在 100MW 数据中心对比中,Vera 比最快的 x86 CPU 实现了 1.6 倍的每瓦特 Agent 密度,比最具能效比的 x86 CPU 实现了 2 倍的 Agent 速度。
推荐理由:官方给出了 Vera CPU 与 x86 在能效比下的实测对比数据,读者可以据此判断其在 AI 工厂场景的落地潜力。
Microsoft Research 发布 PDD Kit,将证明驱动开发引入 AI 编码流程:先将自然语言意图转化为 Verus 形式规约,再对 Agent 生成的 Rust 代码做全输入证明,证明覆盖不到的部分用测试补位。
推荐理由:原文展示了将形式验证引入 AI 生成代码的实际工作流,读者可据此判断如何在不逐行审查的前提下保障关键逻辑正确性。
月之暗面(Moonshot AI)首款 K3.1 系列模型 Kimi K3.1 Pro 正式上线阿里云百炼,支持 100 万 Token 上下文窗口及原生视觉理解。该模型通过大规模联合强化学习提升了代码开发、3D 创作及长程 Agent 任务能力,目前百炼中国站与国际站 API 已同步开放调用。
推荐理由:月之暗面 Kimi K3.1 Pro 上线阿里云百炼,开发者可直接调用支持百万上下文及强化学习优化的代码与 Agent 能力。
Gradium 于两周前推出并开源了小型端侧文本转语音模型 Phonon,该模型无需服务器与网络即可运行。目前 Phonon 提供约 65 MB 和 75 MB 两种尺寸,支持英、法、德、西、葡五种语言,并内置 100 多种预设音色。
推荐理由:展示了高性能TTS模型在端侧落地时的架构平衡策略,以及通过多语言支持与流式响应技术实现的质量跃升。
月之暗面发布 Kimi Hosted Agents 托管智能体,将支撑 Agent 运行的 Harness 作为云端服务提供,支持长程任务执行与多智能体协作。平台内置 140+ Skills 与 30+ 插件,提供独立沙箱、网络访问权限控制及审计导出功能,并支持接入 Kimi Inference Hook 在推理前拦截敏感数据。
推荐理由:原文列出了140+ Skills、30+插件及8个金融Agent模板,读者可据此判断托管智能体如何降低企业自建 Harness 的运维成本。