百度地图 RoadState 系统:基于领域先验增强视觉语言模型的工业级车道级地图更新
RoadState-VLM 通过自回归状态估计生成结构化车道级语义,核心模型在真实数据集上平均准确率达 94.33%。 系统引入 Geo-CoT 机制及级联路由流程,将常规案例分发至轻量模型。 自 2025 年 3 月部署以来,已覆盖 360 余个城市,使生产总成本降低 30%。
RoadState-VLM 通过自回归状态估计生成结构化车道级语义,核心模型在真实数据集上平均准确率达 94.33%。 系统引入 Geo-CoT 机制及级联路由流程,将常规案例分发至轻量模型。 自 2025 年 3 月部署以来,已覆盖 360 余个城市,使生产总成本降低 30%。
单步世界模型采用冻结 DINOv2/v3 补丁 Token,其最近邻匹配目标(IMLE)在性能上优于扩散模型。实验表明,m=16 的候选数量在预测覆盖率上超过 50 步流匹配,且推理延迟仅为其 1/30。
ConvLUT 提出可映射至查找表(LUT)的完全展开卷积架构,实现低于 50 ns 的超低延迟推理。 在 CIFAR-10 上,其延迟比非逻辑实现降低至少 8844 倍,测试准确率比现有 MLP 风格模型高至少 20 个百分点。
论文提出联合优化内存、计算与卸载的方案,以解决边缘智能中 DNN 推理的内存瓶颈。 将能耗最小化建模为混合整数非线性规划,通过坐标下降算法实现近优性能,能耗最高降低 16.1%。
GARP 平台在 Godot 引擎中实现实时生成式智能体,全程运行于本地硬件,无云端依赖。 系统采用 3B 参数开源模型,通过 50+ 候选动作筛选至 3-8 个,结合 JSON schema 约束响应与多层缓存策略。 在九场景评测中,27 次运行里 25 次通过日志检查,验证了本地实时推理的可行性。
MNN-Pocket-0.3B 开源发布,这是专为端侧部署设计的 3 亿参数稠密语言模型。 该模型支持 32K 上下文,INT4 部署体积仅 173MB,在 iPad Pro M5 上解码吞吐量达 466 tokens/s。 基于约 4.1 万亿中英文 token 预训练,其在同类开源模型中表现领先,并优于部分 0.5B 参数模型。
Hibana 是针对统一内存设备设计的推理引擎,通过模型手术、统一内存管理和自适应推测解码协同优化,支持本地多智能体负载。 在单台 DGX Spark 上运行 125B 参数的 Qwen 和 Nemotron 模型时,Hibana 每小时可完成比 vLLM、NVIDIA Flare、TensorFold 等框架多 3.4 倍的智能体任务,解码吞吐量提升高达 3.9 倍。代码已开源。
高通调查显示,超过 1.2 万名用户中近 60% 每周使用 AI,AI 智能体正成为可穿戴设备核心卖点。 约 70% 用户期待 AI 通过语音协同管理设备事务,65% 至 70% 对个性化 AI 生态感兴趣。 近 60% 消费者关注隐私,高通认为端侧 AI 是建立信任的关键路径。
iOS/macOS 27.3 首个开发者预览版中,苹果为 Siri AI 引入名为 Skimmer 的前置模块,首次将约 2% 的英语请求在联网状态下路由到本地模型处理。该比例主要覆盖设置定时器、播放音乐、拨打电话等高频且结构相对固定的指令,以降低延迟、节省算力并保护隐私。
苹果为 Apple Intelligence 功能推出付费“智能使用包”,Logic Pro 率先落地,售价 49.99 美元。该包采用买断制而非订阅制,有效期 12 个月,仅限购买账户使用且不支持家人共享。此举旨在满足重度用户额外需求,预计后续将扩展至 Final Cut Pro 等其他应用。
苹果 iOS 27.3 测试版曝光名为“记忆图谱”的组件,旨在整理用户人际关系、常去地点及健康状况。 系统引入“记忆原子”数据单元,通过设备端 AI 或 Private Cloud Compute 处理信息,内置 60 个用于识别用户动机的问题。 该系统当前仍处未完成状态,苹果尚未说明其正式上线时间及数据管理方式。
作者反驳认为只有云端前沿模型才能完成实际工作的观点,指出许多用户因缺乏本地 AI 知识而产生认知偏差。 文章列举 llama-swap、llama.cpp 及 HyperQwen 等工具,强调本地部署涉及控制权归属而非单纯成本或扩展性。 作者主张在个人计算中保留“数字主权”,避免将 AI 能力控制权完全交给寡头垄断。
llama-modchip 项目使用 1.71-bit 量化(56.6GB)在 64GB 内存的纯 CPU 环境下运行 284B 参数 DeepSeek-V4-Flash MoE(13B 激活),测得 16 核 Zen 5 处理器上 44 tok/s prefill 以及 30B MoE 模型在 16-32GB 笔记本上 25-60 tok/s decode。
STMicroelectronics 更新 ST Edge AI Suite,通过整合 Model Explorer、Dataset Factory、Model Factory 和 Model Bench 四款新工具,简化 STM32 微控制器上嵌入式机器学习模型的部署流程。 平台包含超过 400 个预训练模型,支持远程硬件基准测试,新工具将于 11 月底上线,助力设计人员优化内存与计算性能。
Sakana AI 宣布开发首款移动应用“Sakana AI App”并招募 Beta 测试用户,CEO David Ha 称其为公司全新发展方向。 该公司采用“进化模型合并”技术处理数据,成立不到一年估值超 10 亿美元,成为日本增长最快的 AI 独角兽。
英伟达在韩举办 AI Day 活动,公布与韩国政府及多家企业的合作。其内容包括扩大与韩国政府的主权 AI 合作、与三星电子深化半导体创新、与 LG 电子和现代汽车集团合作推进具身智能及自动驾驶,以及支持多家公司基于 NVIDIA 平台开发 AI 推理和智能体应用。
IDC 预计 2026 年全球灵巧手出货量约 2.5 万台,不含内部配套,中国厂商占比超 85%。 竞争已从硬件参数转向综合操作能力,主要应用于人形机器人配套、科研及数据采集场景。 未来三年行业将从“路线探索”进入“工程化竞争”阶段,需平衡性能、可靠性与成本。
Embedded Arena 框架利用 LLM 智能体在真实硬件反馈下迭代优化边缘模型。Claude Opus 4.7 等前沿模型在无硬件反馈时部署成功率为 0%。 该框架实现 3 次迭代内成功部署,视觉模型压缩 250 倍且准确率损失小于 3.3%。 应用于鹿类检测相机和儿童语音追踪穿戴设备,支持太阳能供电商业 MCU。
AirFM-DDA 提出了一种在时延-多普勒-角度(DDA)域处理无线信道状态信息的基础模型,通过重参数化解耦多径分量。模型采用基于窗口的注意力机制,将训练和推理成本降低近一个数量级。在信道预测和波束预测任务中,实现零样本跨场景泛化,性能优于最强基线。
论文提出 ZeroQAT 框架,通过前向传播梯度估算消除反向传播,支持 LLM 权重与激活的端到端量化感知训练(QAT),显著降低内存与计算开销。 ZeroQAT 允许在单张 8GB GPU 上以 2-4 bit 极低位宽微调 13B 模型,并实现 6.7B 模型在 OnePlus 12 智能手机上的端侧微调。
研究提出可解释的健康年龄指标 CHA 及基于 220 万 person-weeks 数据预训练的 SensorWM 模型,实现个性化 12 周健康计划生成。 模型在盲测中优于传统方案:认证教练对整体质量(71.4%)和预期依从性(71.0%)的偏好度显著提升,且 99.2% 的计划符合临床安全标准。 该框架通过闭环整合轨迹预测与反事实推理,为系统性改善心脏代谢健康提供可扩展路径。
大语言模型因高资源需求限制其边缘设备部署。 最近的软件优化和专用硬件创新使得在边缘设备部署LLM成为可能,带来本地数据处理、成本节约和低延迟等优势。 本文综述了使LLM边缘部署可行的最新技术。
Exody 上线原生 macOS AI 工作台,运行 5 阶段自治代理循环,支持 Claude、GPT 等多模型路由,且 100% 自带密钥无加价。 桌面端在隔离 worktree 中执行调查、计划、构建、验证及独立审查,移动端通过 WebRTC 实时同步远程审批;设计代理在盲测中优于原始模型输出。
Meta 在 Meta Connect 大会上发布了名为 Muse Charm 的口袋设备,允许用户通过点击硬件直接访问 Muse AI 智能体。Zuckerberg 表示公司战略已从元宇宙转向构建个人超级智能设备,认为后者具有更紧迫和重大的意义。
推荐理由:原文展示了 Meta 如何将 Muse AI 智能体从软件层拓展至专用硬件,并借此回应市场对其硬件潜力的质疑。
作者发布了BYOBrain协议及SDK,旨在让本地LLM在浏览器端运行并实现本地存储共享。指南强调非阻塞设计原则,即游戏必须100%可玩且不等待AI响应。文档展示了如何使用BYOB-web-sdk-v2.js挂载连接UI,并通过Promise.race实现带超时和取消功能的请求包装,以应对端侧硬件性能差异。
OfflineVault 是一款开源的基于 AI 的离线库,专为网络中断场景设计,支持 Apple Silicon 及 macOS 14+。 该工具内置 95 篇应急指南及维基百科、CDC 等权威数据,在 150 个测试问题中默认模型答对 63 题,无有害回答。 Linux 和 Windows 用户可通过 ovsync 命令行工具同步获取离线库。
高通在第九届进博会展出端侧MoE智能体,联合Infris AI、江波龙、阶跃星辰共同优化模型推理、存储与芯片平台协同。 针对终端内存功耗限制,该方案通过专家模块预取与UFS加载优化,提升复杂任务处理效率,推动端侧AI从单点应用走向系统级智能体体验。
得物 App 宣布接入国行苹果 Apple 智能,用户通过 iPhone 相机拍摄商品,即可在得物搜索并查看详情、历史价格走势、AI 解读及真实用户评价。 用户需在支持该功能的 iPhone 上唤起视觉智能,对准商品拍摄后在搜索服务中选择得物,即可查看平台在售商品及价格并直接进入详情页。 帮助消费者判断商品是否适合自己,并在充分了解后完成购买。
Exin Therapeutics 展示 GPT-6.1 Sol 参与真实小鼠脑部手术定位,经过三轮操作并接收专家纠正后,搜索时间从 169 秒降至 86 秒,定位误差从 0.6 毫米降至 0.3 毫米。团队称此为基于真实世界经验的上下文学习,模型保存了图像、测量数据和修正记录供后续参考,目前尚未披露是否涉及模型权重更新。
VindexLLM 是一款纯 Delphi 编写的 Windows LLM 推理引擎,利用 Vulkan 计算着色器在 GPU 执行完整 Transformer 前向传播。
Reges Code 推出 v1.0.21 版本,这是一款支持 Windows 10/11 的免费 AI 代码编辑器,默认优先运行本地模型,无需注册账号即可使用。 编辑器内置 Reges Swarm 功能,由 5 个模型组成的团队通过流水线或并行方式检查代码,并具备诚实性检查机制以验证操作真实执行。
索尼在中国国际进口博览会全球首发“融合双路视觉信息的车载乘客眩晕检测”技术,可预测乘客眩晕程度。 该方案利用车前道路画面和后排屏幕视频两路数据,通过 AI 模型综合评估,无需新增摄像头。 评估结果可提示驾驶员减少急刹、急转,并为内容平台推荐更缓和的视频提供参考。
双 RTX 5070 Ti 实测 15 个 Qwen3.8 27B 变体,无一整体超越基模,Tess-4.5 以 61.4 分(基模 63.3 分)居次。 基模 3-bit 仅 120K 上下文,32 GB 显存支持 6-bit 满 262K 窗口;Tess-4.5 每 bug 生成 14K tokens,较基模少 40%。
Skrongle Mini 是一款可在 Raspberry Pi Zero 2 W 上运行的自托管 AI 课程生成与学习应用,支持 JSON 格式课程、自适应测验、游戏化练习和 AI 导师功能。
TokiRecur是支持KV缓存回收的本地LLM启动器,覆盖多种GPU和CPU运行后端。测试显示TTFT提升62%–96%,预填充吞吐量提升410%–1280%。
微信鸿蒙版 App 发布 8.0.23.36 版本邀测升级,测试时间为 2026/11/7-2026/12/7。 该版本新增公众号文章、贴图中图片长按问小微及 AI 摘要功能,支持逐步开放。
魔芯科技发布MoWorld 2.0,将重力、弹力、光照等十余种物理要素融入模型,并输出为3D/4D高斯资产。其在华为昇腾NPU上的实时视频推理速度推至70 FPS,推理成本最低为同规模GPU方案的30%,并已进入手机端侧设备。
推荐理由:原文给出了物理建模和性能指标,读者可以据此判断世界模型如何进入下游任务。
oMLX 0.7.4.dev1 发布,新增分布式推理功能,允许用户将高 GPU 性能的 Mac(如 M5 Max)作为加速器,为内存较大但 prefill 较慢的 Mac(如 M3 Ultra 512GB)运行大模型提速,64K 提示词 prefill 速度最高提升 2.9 倍。
谷歌发布最新研究,推出了无需袖带校准、使用普通消费级智能手表即可被动检测高血压迹象的多模态 AI 系统 AI-PPG-ACC-HTN。该系统通过自监督预训练和多天数据聚合识别持续性高血压状态,在 196 名受试者的前瞻性临床试验中,确诊性检测阳性预测值(PPV)高达 96.7%。
苹果 iOS 27.3 首个开发者预览版新增专属功能 Flag,显示其正努力在中国大陆引入 Siri AI。 该版本为 IntelligenceFlow 框架添加了名为 LinwoodChinaMainland 的禁用标志,内部逻辑 siriAIInChinaMainland 将读取此标记。