跳到正文
  1. NVIDIA Blog66

    NVIDIA 发布 RTX Spark 紧凑型桌面 AI 设备

    NVIDIA 发布 RTX Spark 紧凑型桌面设备,支持本地 AI 智能体、图像视频生成和模型微调。设备搭载 NVIDIA Grace CPU、Blackwell RTX GPU 和最高 128GB 统一内存,提供 1 petaflop 算力。NVIDIA 同步扩展软件生态,支持 Adobe 创意应用、Blender 5.3 和 ComfyUI。

    推荐理由:官方给出了紧凑型桌面本地 AI 硬件的规格和配套生态入口,读者可以据此判断它如何影响现有创意与开发工作流。

  1. arXiv · NLP67

    Nemotron 3.5 Bolt E4B 4GB:面向快速对话智能体的开放高效小语言模型

    NVIDIA 发布了 Nemotron 3.5 Bolt E4B 4GB,这是一个基于 Gemma-4-E4B-it 后训练优化的开放高效小语言模型,专为快速本地语音助手、交互角色及嵌入式端侧场景设计。

    推荐理由:展示了该小模型在21项基准中取得最高平均准确率及最低输出token数,并量化了推理加速指标。

  1. arXiv · AI66

    Superfluid:面向分布式 LLM 推理的本地 AI 服务器

    Superfluid 是开源 LLM 服务器,用于本地设备上的 LLM 推理,支持单设备多智能体共享模型及跨设备集群服务。

    推荐理由:原文给出了具体硬件下的延迟改善和吞吐数据,读者可据此评估分布式本地推理在实际混合算力场景中的可行性。

  1. Hugging Face Blog68

    Tether AI 发布 BotPsy:0.8B 参数端侧智能体模型

    Tether AI 发布 BotPsy,一款基于 Qwen3.5-0.8B 构建的 0.8B 参数端侧智能体模型,采用 Apache 2.0 协议开源。通过在 BFCL v4 等六项工具调用基准上取得领先成绩(平均 45.0 分),并在推理 token 效率上较基座模型提升约 3 倍,该模型在低中难度任务场景中展现出优于 1.2B 以下规模模型的表现力。

    推荐理由:0.8B 端侧模型通过蒸馏与两轮 RL 训练,在工具调用和多轮 Agent 基准上超越 2.5 倍参数量的模型,展示了小参数智能体路径。

  1. Hugging Face Blog69

    Gradium 端侧语音模型 Phonon 开源,性能与速度领跑 Hugging Face Open TTS Leaderboard

    Gradium 于两周前推出并开源了小型端侧文本转语音模型 Phonon,该模型无需服务器与网络即可运行。目前 Phonon 提供约 65 MB 和 75 MB 两种尺寸,支持英、法、德、西、葡五种语言,并内置 100 多种预设音色。

    推荐理由:展示了高性能TTS模型在端侧落地时的架构平衡策略,以及通过多语言支持与流式响应技术实现的质量跃升。

  2. Hugging Face Blog70

    Dharma-AI 发布 Dharma Field Extractor:2B 参数文档字段抽取模型

    Dharma-AI 发布 Dharma Field Extractor,这是一个 2B 参数文档字段抽取模型,能从任意文档类型提取指定字段并输出结构化 JSON,其性能在测试中优于所有前沿 LLM,且成本大幅降低。该模型基于 DharmaOCR-LITE v1.1,通过 43,384 个训练样本上的 LoRA 适配器微调,支持开放式(无 schema)和 Schema 导向两种请求模式。

    推荐理由:Dharma-AI 在官方开源平台上发布了 2B 参数字段抽取模型,给出了相对前沿大模型的 F1 差距和自托管成本区间。

  1. NVIDIA Blog76

    NVIDIA 开源多语种语音转录模型 Nemotron 3.5 Transcribe

    NVIDIA 今天推出开源权重语音模型 Nemotron 3.5 Transcribe,单个模型即可处理转录、说话人识别和翻译,支持 40 种语言。该模型在 Hugging Face 开放 ASR 榜单排名 No.1,采用约 43 亿活跃参数,比当前排名第一的开源权重模型参数少约 80%。

    推荐理由:NVIDIA开源语音模型Nemotron 3.5 Transcribe一次完成转录、说话人分离和翻译,用本地设备即可完成多语种音频信息提取。

  2. Hugging Face Blog77

    Liquid AI 发布开源多模态模型族 LFM3

    Liquid AI 发布新一代开源 Liquid Foundation Model(LFM3),将文本、视觉、音频、omni 和决策任务放入同一 2B 级底座,所有模型都可在单卡上微调并部署到边缘设备。

    推荐理由:Liquid AI把六种模态压进2B级开源权重,并用同一底座和单卡微调路径解释它如何落到边缘部署。

  1. 科大讯飞61

    科大讯飞发布端云一体星火X2.6、SparkAudio 1.0及WinWork数字员工平台

    科大讯飞发布端云一体星火X2.6,实现全国产算力下的模型训练与推理,长上下文训练效率提升约4倍,推理效率提升4.5倍。同步发布星火语音基座大模型SparkAudio 1.0,整体效果提升20%,响应时间降低15%。推出讯飞星帆WinWork数字员工平台,支持80余类数字员工上线,Token消耗节约44%。

    推荐理由:发布端云一体模型X2.6及SparkAudio 1.0,通过长程训练与动态并行技术,实现全国产算力下的高效推理与成本优化。

  1. NVIDIA Blog83

    NVIDIA GTC Berlin 2026:Jensen Huang 主题演讲重点更新

    Jensen Huang 在 GTC Berlin 2026 主题演讲中宣布 NVIDIA 在欧洲技术生态的投资接近 100 亿美元。NVIDIA 推出了用于快速部署 AI 工厂的 DSX POD,以及包含 Nemotron 和 Cosmos 等在内的前沿开源模型套件。演讲还介绍了 OpenShell 智能体安全架构、Agile ONE SN 机器人参考平台以及 RTX Spark 笔记本电脑。

    推荐理由:原文汇总了NVIDIA在欧洲的巨额投资、新硬件交付与机器人参考设计,读者可以据此把握其对区域算力与产业生态的规划。

  1. Hugging Face Blog88

    PyTorch 2.15 发布:MPS 支持 FP8 并大幅提升 LLM 解码速度

    PyTorch 2.15 在 MPS 后端引入 FP8 支持,并将多项核心算子迁移至 Metal kernel。

    推荐理由:M3 Ultra 上 Qwen3.6-35B-A3B 解码速度提升 5.5 倍至 61.3 tokens/s,且视频生成显存占用从 270GB 降至 8GB。

  2. 阿里语音AI67

    阿里云百炼多模态交互套件升级 Qwen-Audio-3.1 语音模型

    阿里云百炼多模态交互套件升级 Qwen-Audio-3.1 语音模型,提供低延时流式 ASR 与流式 TTS 能力,支持30种语言和16种中文方言。TTS在 Artificial Analysis 语音排行榜中取得1177 Elo评分;相较上一代,TTS 价格降低约70%,ASR 价格降幅达95%。

    推荐理由:升级聚焦ASR与TTS两端能力与成本,开发者可据具体指标评估硬件接入路径。

  3. 面壁智能90

    面壁智能开源前瞻专家调度(LES)推理技术,实现35B MoE手机实时运行

    MiniCPM-V 团队开源了前瞻专家调度(LES)技术,首次实现35B-A3B规模MoE模型在iPhone 18 Pro Max上以超过20 token/s速度实时无损运行。该系统通过预测下一层专家提前加载权重、优化存储布局与混合精度量化、结合DSpark批量验证,在M4 iPad上以3GB内存配置实现了9.6 token/s的解码速度,相关代码已在GitHub开源。

    推荐理由:原文给出了调度、存储和计算三层系统的具体设计,读者可以据此理解35B MoE模型如何在不增加训练成本的情况下实现端侧实时运行。

  4. arXiv · NLP69

    Muse Glimmer 30B 开源端侧智能体模型发布

    Muse Glimmer 是一个基于 Apache 2.0 许可开源的 300 亿参数因果语言模型,专为消费级硬件设计,集成了多模态感知、多步推理与工具调用功能。模型经过 4-bit 量化优化可在单 GPU 上本地运行,无需云端基础设施,在同量级模型中实现了 agentic benchmark 的领先性能,并支持超过 100 种语言的训练数据。

    推荐理由:Muse Glimmer 作为 30B 参数模型实现了本地智能体功能,为消费级硬件部署多模态推理模型提供了新路径。

  1. Qoder78

    Qoder 推出 Phone Use 插件

    Qoder 推出 Phone Use 插件,用户通过数据线将 iPhone 连接至 Mac,即可让 AI 直接查看并操作手机界面,完成打开 App、点击、滑动、输入等任务,安卓系统即将支持。该功能要求 Qoder 版本不低于 0.4.5,iOS 版本不低于 16,并需在手机端开启开发者模式。

    推荐理由:原文给出了连接手机的操作路径和三类典型场景,读者可以据此判断它能覆盖哪些日常自动化任务。

  1. NVIDIA Blog83

    NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 端侧智能体模型

    NVIDIA 发布三款开放权重智能体模型:Nemotron 3.5 Super VL 120B、Bolt 74B-A9B 24GB 和 Bolt E4B 4GB,覆盖从企业服务器到端侧设备的智能体部署层。

    推荐理由:原文明确三个模型各自的参数量、量化体积和适配硬件层,读者可以据此判断智能体部署成本如何从数据中心下沉到本地设备。

  1. NVIDIA Blog87

    NVIDIA RTX Spark 生态发布软件与 AI 模型更新

    NVIDIA 及其生态伙伴为即将上市的 RTX Spark 笔记本推出软件功能与性能优化,支持本地 AI 智能体。包括更新 GitHub Copilot、Hermes 等智能体应用,发布 74B 参数的 Nemotron 3.5 Bolt 模型,推出跨设备 AI 路由器 PAIR,并带来 Adobe 创意应用优化、Blender DLSS 支持及开发者工具更新。

    推荐理由:原文梳理了围绕本地 AI 智能体新增的安全沙盒、模型路由与开发工具生态,读者可据此判断 RTX Spark 的本地 AI 工作流边界。

  2. 面壁智能82

    面壁智能开源 MiniCPM-V 4.7:350 亿参数 MoE 端侧多模态新上限

    面壁智能联合 OpenBMB 社区正式发布并开源端侧多模态模型 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本。其中 35B-A3B 是全球首个可在端侧无损流畅运行的开源 MoE 多模态模型,在约 3GB 内存的 iPhone 17 Pro Max 上实现每秒 13+ token 的生成速度。

    推荐理由:原文披露了 35B 参数 MoE 模型在 3GB 内存端侧运行的具体性能数据与 LES 调度技术细节。

  1. 阿里云百炼74

    阿里云百炼发布 Agent Studio 与 Agent Studio for Hardware 平台

    阿里云百炼在 2026 云栖大会发布 Agent Studio 全栈服务与 Agent Studio for Hardware 智能硬件服务,前者计划 10 月上线 Agent API,后者预适配 30 余款芯片。方案显示 3B 端侧模型在 BFCL 基准达到 SOTA,80% 请求可本地闭环,配合 TensorRT Edge-LLM 实现最高 5 倍加速。

    推荐理由:发布两个落地平台,明确端侧推理参数、工具调度机制与商业化路径。