跳到正文
  1. IT之家80

    腾讯混元 Hy4 flash 模型开源

    腾讯混元 Hy4 flash 模型已正式开源,开发者可在 GitHub、Hugging Face、ModelScope 和 GitCode 下载部署。该模型总参数量为 224B,每个 token 激活 12B 参数,支持多模态输入与 100 万 token 上下文,目前已在腾讯云 TokenHub、元宝、企业微信等产品上线。

    推荐理由:明确了腾讯混元Hy4 flash的开源地址、224B总参数、12B激活参数、多模态与100万上下文长度。

  1. arXiv · NLP67

    Nemotron 3.5 Bolt E4B 4GB:面向快速对话智能体的开放高效小语言模型

    NVIDIA 发布了 Nemotron 3.5 Bolt E4B 4GB,这是一个基于 Gemma-4-E4B-it 后训练优化的开放高效小语言模型,专为快速本地语音助手、交互角色及嵌入式端侧场景设计。

    推荐理由:展示了该小模型在21项基准中取得最高平均准确率及最低输出token数,并量化了推理加速指标。

  1. Hacker News AI93

    Edge0 开源 145B 端侧模型,支持笔记本本地推理

    Edge0 开源了 Edge0-145B 和 Edge0-120B 模型及统一推理框架,称其为全球首个可运行在个人计算机上的 145B 参数开源端侧模型。

    推荐理由:原文给出了端侧大模型的关键性能数据和全栈开源细节,读者可以据此判断本地运行 145B 模型的可行性边界。

  1. Hugging Face Blog68

    Tether AI 发布 BotPsy:0.8B 参数端侧智能体模型

    Tether AI 发布 BotPsy,一款基于 Qwen3.5-0.8B 构建的 0.8B 参数端侧智能体模型,采用 Apache 2.0 协议开源。通过在 BFCL v4 等六项工具调用基准上取得领先成绩(平均 45.0 分),并在推理 token 效率上较基座模型提升约 3 倍,该模型在低中难度任务场景中展现出优于 1.2B 以下规模模型的表现力。

    推荐理由:0.8B 端侧模型通过蒸馏与两轮 RL 训练,在工具调用和多轮 Agent 基准上超越 2.5 倍参数量的模型,展示了小参数智能体路径。

  1. 智东西81

    美团 LongCat 团队发布 1.6 万亿参数原生多模态模型 LongCat-2.5

    美团 LongCat 团队发布面向长程智能体任务的原生多模态模型 LongCat-2.5,总参数量为 1.6 万亿,每个 Token 激活约 480 亿参数。

    推荐理由:文章展示了该模型在国产算力下的训练优化策略,以及其在长程智能体任务中超越特定竞品的实测表现。

  1. 量子位76

    天数智芯发布天垓300与彤央TY1200并现场实测跑赢英伟达H200及Thor T5000

    天数智芯发布天垓300、彤央TY1200及天数智算软件栈。现场实测显示,天垓300在文生图任务上耗时95.6秒快于H200的112秒;彤央TY1200在断网端侧环境下,运行Qwen3.8-27B的性能达到Thor T5000的138%,并成功运行MicroDuck仿真任务。

    推荐理由:实测数据对比了天垓300与H200、彤央TY1200与Thor T5000的性能差异,展示了国产芯片在云边两端的落地能力。

  2. 机器之心80

    DiffuSpace开源Clover 35B扩散语言模型,性能媲美自回归模型

    DiffuSpace 发布开源扩散语言模型 Clover-35B-A3B-Preview,在 SWE-bench Verified 等智能体编程评测中达到或超过同规模自回归模型,同时实现 680 tokens/s 的更快生成速度。模型通过引入块扩散与双向 GDN 架构解决历史记忆复用问题,并已在 16GB 显存设备上实现 INT4 量化部署。

    推荐理由:作为首个在Agent任务上超过同规模自回归模型的开源扩散语言模型,Clover 35B证明了并行生成速度与高性能可以共存。

  1. Hugging Face Blog77

    Liquid AI 发布开源多模态模型族 LFM3

    Liquid AI 发布新一代开源 Liquid Foundation Model(LFM3),将文本、视觉、音频、omni 和决策任务放入同一 2B 级底座,所有模型都可在单卡上微调并部署到边缘设备。

    推荐理由:Liquid AI把六种模态压进2B级开源权重,并用同一底座和单卡微调路径解释它如何落到边缘部署。

  1. 量子位68

    讯飞Spark-X2.6实测:全国产算力与端云协同能力验证

    讯飞Spark-X2.6上线星辰MaaS平台,采用MoE架构总参数293B,支持1M上下文。实测中Spark-X2.6-4B离线完成经营复盘与合同脱敏,云端处理复杂审查,路由准确率提升至96.1%。

    推荐理由:实测展示了Spark-X2.6在纯CPU离线场景下的Agent任务完成度及端云脱敏协同流程,提供了国产算力落地的具体参考。

  2. 量子位82

    EdgeRock-4B开源:KV Cache固定72MiB,单卡吞吐量达Qwen3.5-4B的6倍

    岩山科技旗下岩芯矩阵联合港科大、CMU等机构开源了模型EdgeRock-4B,其核心创新在于固定KV Cache占用为72MiB,不随上下文长度增加。

    推荐理由:该模型展示了固定内存下长推理的可行方案,并提供了开源代码与模型,便于工程落地参考。

  1. 科大讯飞61

    科大讯飞发布端云一体星火X2.6、SparkAudio 1.0及WinWork数字员工平台

    科大讯飞发布端云一体星火X2.6,实现全国产算力下的模型训练与推理,长上下文训练效率提升约4倍,推理效率提升4.5倍。同步发布星火语音基座大模型SparkAudio 1.0,整体效果提升20%,响应时间降低15%。推出讯飞星帆WinWork数字员工平台,支持80余类数字员工上线,Token消耗节约44%。

    推荐理由:发布端云一体模型X2.6及SparkAudio 1.0,通过长程训练与动态并行技术,实现全国产算力下的高效推理与成本优化。

  2. TechCrunch · AI76

    Recursive 发布端侧编码模型 Flint

    AI 初创公司 Recursive 发布了名为 Flint 的免费端侧编码模型,该模型主要依靠其自动化研究系统 Eureka Machine 构建,团队在四个月内完成开发。

    推荐理由:文章详细拆解了Flint模型的技术指标及Eureka Machine在开发过程中的具体贡献,为评估端侧AI的自我迭代能力提供了参考。

  1. arXiv · NLP69

    Muse Glimmer 30B 开源端侧智能体模型发布

    Muse Glimmer 是一个基于 Apache 2.0 许可开源的 300 亿参数因果语言模型,专为消费级硬件设计,集成了多模态感知、多步推理与工具调用功能。模型经过 4-bit 量化优化可在单 GPU 上本地运行,无需云端基础设施,在同量级模型中实现了 agentic benchmark 的领先性能,并支持超过 100 种语言的训练数据。

    推荐理由:Muse Glimmer 作为 30B 参数模型实现了本地智能体功能,为消费级硬件部署多模态推理模型提供了新路径。

  1. APPSO88

    Meta 发布 8160 亿参数开放权重模型 Muse Spark Open,苹果支持其在 Mac Studio 本地运行

    Meta 发布 8160 亿参数开放权重模型 Muse Spark Open,并与苹果合作展示了在 Mac Studio 上本地运行的方案。该模型采用 MoE 架构,激活参数约 420 亿,通过 NVFP4 量化将内存需求压缩至 493GB。

    推荐理由:详细拆解了Meta 8160亿参数模型在Mac Studio上通过张量并行和BF16量化实现本地高效推理的技术路径。

  2. 36氪90

    Meta 发布 Muse Spark Open 模型并与苹果 Mac Studio 合作

    Meta 发布开放权重模型 Muse Spark Open,总参数量达 8160 亿,采用 MoE 架构且每次推理激活约 420 亿参数。Meta 与苹果共同展示了在两台或四台 Mac Studio 上运行的方案,开发者可在本地使用模型编写代码、分析视频、执行智能体任务,推理过程无需经过模型厂商的服务器。

    推荐理由:Meta 发布 8160 亿参数的 Muse Spark Open 并展示在 Mac Studio 上的运行方案,读者可看到开放权重如何与端侧硬件结合实现本地部署。

  1. 智东西79

    华为麒麟9050系列深度解读:韬定律与逻辑折叠技术细节披露

    华为在上海举办技术沟通会,详细解读麒麟9050系列及影像、屏幕等技术细节。文章指出,基于韬定律的逻辑折叠技术通过混合键合实现麒麟9050 Pro的量产,CPU主频提升12.7%,NPU算力提升140%,端侧30B大模型通过存算协同与量化方案实现在仅2.5GB内存下运行。

    推荐理由:结合华为技术解读与论文细节,读者可理解韬定律与逻辑折叠如何解决几何缩微瓶颈。

  1. NVIDIA Blog83

    NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 端侧智能体模型

    NVIDIA 发布三款开放权重智能体模型:Nemotron 3.5 Super VL 120B、Bolt 74B-A9B 24GB 和 Bolt E4B 4GB,覆盖从企业服务器到端侧设备的智能体部署层。

    推荐理由:原文明确三个模型各自的参数量、量化体积和适配硬件层,读者可以据此判断智能体部署成本如何从数据中心下沉到本地设备。

  1. 面壁智能82

    面壁智能开源 MiniCPM-V 4.7:350 亿参数 MoE 端侧多模态新上限

    面壁智能联合 OpenBMB 社区正式发布并开源端侧多模态模型 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本。其中 35B-A3B 是全球首个可在端侧无损流畅运行的开源 MoE 多模态模型,在约 3GB 内存的 iPhone 17 Pro Max 上实现每秒 13+ token 的生成速度。

    推荐理由:原文披露了 35B 参数 MoE 模型在 3GB 内存端侧运行的具体性能数据与 LES 调度技术细节。

  1. IT之家77

    微软 Maia 300 AI 芯片发布:台积电 N2P 工艺,288GB HBM4 内存,带宽 18TB/s

    微软正式发布 Maia 300 人工智能芯片,基于台积电 N2P 制程工艺打造,计划 2027 年部署。Maia 300 配备 288GB HBM4 内存,带宽达到 18TB/s,FP4 算力可达 13.8 PFLOPS。该芯片采用多芯粒设计,SoC 功耗额定值为 950W,双向扩展互连带宽达到 3.2TB/s,单个机架可容纳 96 颗芯片,最多可组建包含 12000 颗加速器的集群。

    推荐理由:芯片规格与架构细节清晰,为了解其推理定位与集群规模提供了完整的技术参考。

  1. Hugging Face Blog70

    Liquid AI发布开源端侧决策模型 d1-3B 与 d1-omni-600M

    Liquid AI发布两个开源决策模型:d1-3B 和 d1-omni-600M(实验版)。d1-3B 支持文本和图像,在 NVIDIA Jetson AGX Thor 上单问题响应时间仅 16 ms,在 RTX 4090 上低于 10 ms。

    推荐理由:d1-3B在端侧设备实现毫秒级推理,为边缘场景提供了高性能的多模态决策模型方案。