EmbeddingGemma 2 发布：端侧开源多模态嵌入模型
Google DeepMind 发布 EmbeddingGemma 2，这是一款基于 Gemma 4 架构、采用 Apache 2.0 许可的 740M 参数开源多模态嵌入模型，支持将文本、图像、音频和视频映射至统一嵌入空间，适用于端侧推理。
推荐理由：原文给出了EmbeddingGemma 2的架构、MRL优化机制及端侧部署内存细节，为评估其在隐私RAG与跨模态检索中的实际能力提供了可参照的参数基础。
技术方向
端侧 AI 最新动态
跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
37 条精选近 30 天 26 条共收录 469 条
更新
精选归档 · 第 2 页
Google DeepMind精选AI 评分8282
机器之心精选AI 评分8282 Meta 开源 Muse Gadgets 框架支持开发者自定义 AI 外设
Meta 开源 Muse Gadgets，通过 ESP32 开发板和 Linux SDK 允许开发者创建各类 Muse 专属硬件。官方同时推出 Muse Home Link 家用设备，支持通过 HTTPS 接口连接智能家居并首批试产 5000 台免费发放。开发者已利用墨水屏阅读器和摄像头设备改造出可磁吸手机背面的 Muse 显示终端及智能酒窖识别设备。
推荐理由：Meta将Muse的硬件能力下放，开发者可以低成本利用现有板卡快速构建专用外设，改变了智能终端的传统研发路径。
Hugging Face Blog精选AI 评分6767 Liquid AI 发布 LFM2.5-VL-DSpark 视觉语言模型加速草案
Liquid AI 为 LFM2.5-VL-3B 发布 DSpark 推测解码草案，在端侧实现最高 3.13 倍解码加速，端到端提速最高 2.62 倍。该草案增加 280M 参数（约为目标模型的 8.9%），支持 llama.cpp、MLX-VLM 和 SGLang，适用于 CPU 和 GPU 部署。
推荐理由：该Drafter将LFM2.5-VL-3B端侧解码提速至多3.13倍且输出无损，为视觉模型在资源受限设备上提供了可复现的加速方案。
阿里云精选AI 评分6464 Qoder发布项目、讨论、自定义智能体团队、安全及多端协同能力
阿里在云栖大会升级Qoder，推出项目、讨论、自定义智能体与Agent Team等协作与调度功能，同步展示语音、远程控制、眼镜版、Cloud Agents和数字员工QoderWake 1.0。
推荐理由：原文展示了Qoder将协作并入任务流与自定义智能体团队的具体设计，读者可据此评估其对研发协作流程的改造方向。
阿里云精选AI 评分7474 千问AI平台焕新：面向Agent全面升级模型服务、Agent服务、AI应用
阿里云千问AI平台面向Agent负载完成全面升级，新增Agent Studio与企业级全栈Agent服务，并推出API优速模式、千问AI座舱解决方案等能力。Agent Studio提供自动模型路由、24小时不间断托管、原子API和MCP生态接入；模型服务侧通过FlashBoot将弹性启动时间由1200秒缩短至70秒，支持Prompt Caching与Token Plan订阅。
推荐理由：官方给出了Agent Studio的托管与原子API细节，以及算力规模演进预期，供评估AI平台在Agent生产侧的落地深度。
月之暗面 Kimi精选AI 评分7878 Kimi Code Desktop 正式推出，支持 macOS 与 Windows
Kimi Code Desktop 正式上线，提供 macOS 与 Windows 版本，访问 kimi.com/code 可下载安装。
推荐理由：官方桌面端上线，内置终端与可视化审查功能，让 Agent 编码从 CLI 扩展到完整开发工作流。
面壁智能精选AI 评分6262 OpenBMB 开发者大明哥：基于 VoxCPM 构建 AI 语音中台，一年落地百款应用
深圳耐思技术负责人大明哥团队基于 OpenBMB 的 VoxCPM 模型，自研 S2S、MDN、QUIC 三条全语音链路及“前端挂起式打断”机制，解决传统串行链路无法打断、延迟高的问题。团队利用 VoxCPM 完整版与 Nano 版分工，结合六库系统打造数字分身，在 9 个月内以平均三天一个 MVP 的节奏落地上百个应用，涵盖明星生日祝福、老人有声自传及 AI 采访助手等场景。
推荐理由：文章通过耐思团队案例，展示了基于 VoxCPM 构建全语音链路及前端挂起交互的落地路径，揭示了端侧语音应用从 Demo 到商业化的技术细节。
面壁智能精选AI 评分8181 MiniCPM5-2B 发布：端侧模型登顶 Hugging Face Trending
面壁智能发布 MiniCPM5-2B，在 AA Intelligence Index V4.1.1 评测中平均得分 53.9，位居全球 4B 以下开源基座模型首位。模型支持工具调用、深度搜索和代码生成等 Agent 能力，完成英特尔、瑞芯微、Arm 等平台 Day 0 适配，并同步开放模型权重、Agent SFT 数据、RL 框架 Meshy 与 UltraX 数据精炼框架。
推荐理由：2B 模型在 34 项基准中平均得分 53.9，同步开放 RL 与数据精炼框架，并已完成多平台 Day 0 适配。
面壁智能精选AI 评分8080 面壁智能开源 MiniCPM5-2B：端侧基座模型在 AA 榜单 4B 以下开源模型中综合表现第一
9月8日，面壁智能联合 OpenBMB 开源 2B 参数端侧基座模型 MiniCPM5-2B，支持工具调用、深度搜索、代码生成，初步具备端侧通用 Agent 能力。
推荐理由：开源2B端侧基座模型在4B以下榜单中综合得分第一，附带自研强化学习框架和数据集，展示高密度端侧Agent落地路径。
腾讯混元精选AI 评分7979 混元发布极低 bit 翻译模型，压缩至 440MB 并落地直播弹幕
腾讯混元将 Hy-MT2-1.8B 翻译模型通过 2-bit 和 1.25-bit 方案压缩至几百 MB，翻译质量几乎无损，并联合英特尔完成 x86 适配、联合哔哩哔哩在直播弹幕实时翻译中落地。1.25-bit 模型基于 Sherry 技术，体积从 3.3GB 压至 440MB，B 站演示中单条弹幕翻译耗时 500~800ms，内存占用 500~700MB。
推荐理由：混元将翻译模型量化至1.25-bit并落地B站直播，展示了极低比特压缩在端侧高并发场景的可用性。
百灵大模型精选AI 评分8080 Ling-3.0-tiny 正式开源：1.3B 激活参数模型支持本地部署
百灵大模型团队正式开源 Ling-3.0-tiny，该模型总参数量 7.9B，推理时激活参数量仅 1.3B，并同步提供 BF16、FP8 和 INT4 三个版本。
推荐理由：展示了 1.3B 激活参数在端侧设备与多精度部署下的实际落地效果与基准表现。
Hugging Face Blog精选AI 评分8282 Meta 发布开源多模态模型 Muse Glimmer：30B 参数，支持本地智能体应用
Meta 发布开源多模态模型 Muse Glimmer，模型为 30B 参数，基于 Muse 蒸馏而来，采用 Apache 2.0 许可，专为本地智能体应用场景设计。
推荐理由：文章展示了Muse Glimmer在本地部署场景下的自优化演示，为隐私敏感应用提供了低成本运行方案。
阶跃StepFun精选AI 评分6868 阶跃星辰发布端侧模型家族 Step Edge 及配套 NPU 引擎
阶跃星辰发布面向手机、汽车等终端的端侧模型家族 Step Edge，包含基础模型、Audio、GUI 和 Gen 四个模块，并配套自研 Step Inference NPU 引擎进行推理优化。该模型家族支持低至 0.1 秒的端侧 toolcall 执行，实现多模态数据本地处理，宣称在 29 项核心评测指标中取得第一，旨在通过端云协同平衡响应速度、能力与成本。
推荐理由：展示了端侧模型在0.1秒toolcall延迟与全模态隐私保护上的落地能力，并给出29项核心指标领先的对比依据。
Hugging Face Blog精选AI 评分6666 Google 发布高效端侧嵌入模型 EmbeddingGemma
Google 发布 EmbeddingGemma，这是一个 308M 参数、支持 100 多种语言的端侧嵌入模型。该模型在 MTEB 多语言基准测试中表现领先，且量化后内存占用低于 200MB。它兼容 Sentence Transformers、LangChain 等主流框架，并支持在浏览器或本地环境中部署，便于构建移动设备上的检索增强生成（RAG）和智能体应用。
推荐理由：EmbeddingGemma 在 308M 参数和 2K 上下文窗口下支持 100 余种语言，为端侧 RAG 和 Agent 场景提供了轻量化嵌入方案。
Hugging Face Blog精选AI 评分6565 Arm 推出用于实时超采样的 Neural Super Sampling 模型
Arm 发布基于机器学习的 Neural Super Sampling (NSS) 实时超采样模型，面向移动端图形与游戏开发。该模型专为 Arm Neural Accelerators (NX) 优化，能以更低计算成本重建高分辨率画面；在 Enchanted Castle 演示中，540p 渲染至 1080p 仅需 4ms 并降低 50% 的 GPU 负载。
推荐理由：Arm 开源 NSS 模型在 4ms 内将 540p 实时超采样至 1080p，并给出移动端适配路径与 Unreal 插件，帮助团队直接评估低算力游戏渲染效果。
Hugging Face Blog精选AI 评分8282 Gemma 3n 在开源生态中全面可用
Gemma 3n 正式发布，支持本地运行多模态输入。该模型分为 E2B 和 E4B 两个版本，实际参数为 5B 和 8B，但显存占用仅相当于 2B 和 4B 模型，分别只需 2GB 和 3GB 显存。
推荐理由：Gemma 3n 以 2B/4B 显存实现 5B/8B 性能，支持文本、图像、音频和视频多模态输入，并开放主流开源框架支持。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 SmolVLM2 系列视频理解模型
Hugging Face 发布 SmolVLM2 多模态模型家族，包含 2.2B、500M 和 256M 三个尺寸，用于视频理解任务。2.2B 模型在 Video-MME 基准上超过现有 2B 级别模型；500M 版本支持在 iPhone 本地运行；所有模型均可通过 Transformers 和 MLX 框架进行推理和微调。
推荐理由：SmolVLM2 提供 2.2B、500M 和 256M 三种尺寸视频模型并支持端侧运行，读者可按设备内存直接评估部署门槛。