EngineAgent:基于推理栈层级感知与硬件能力端侧LLM推理引擎的智能体化
EngineAgent 通过层级感知引擎索引和预验证工作流,实现了跨层协调的端侧 LLM 模型启用。该系统在 12 项任务中,使用两种底层 LLM 均达到 75% 的端到端成功率,远超最强编码智能体基线的 33.3%,并降低了平均任务时间和 API 成本。
EngineAgent 通过层级感知引擎索引和预验证工作流,实现了跨层协调的端侧 LLM 模型启用。该系统在 12 项任务中,使用两种底层 LLM 均达到 75% 的端到端成功率,远超最强编码智能体基线的 33.3%,并降低了平均任务时间和 API 成本。
Swanada 开源 16 kHz 流式 ASR 系统,共享 INT8 Conformer 编码器配合 12 个热插拔线性 CTC 头,移动端存储降至 25.85 MB。 Studio 级 17 层模型 WER 5.43%,Mobile 级 14 层模型 WER 18.56%;TTFT 中位 30.6 ms。 覆盖古典梵文及十种印度语言,消除云端延迟与音频保留成本。
Qwen3-0.6B 模型通过监控熵值或 margin 触发权重精度从 4-bit 升级至 8-bit 的自适应解码,在 GSM8K 测试中 15% 升级预算下捕获 94% 的 top-2 翻转。
针对车联网中视觉 Transformer 模型部署难题,提出联合选择模型分区点、每层量化位宽及执行放置的框架,最小化计算与通信能耗。 该框架被建模为混合整数线性规划问题(MILP),在 Jetson Orin 系列节点上评估,通过 OPV2V 驱动的多流工作负载测试。
summary_zh: eegdash-corpus-v0 发布了 77 个可再分发数据集,包含 7,272 名受试者的 14,075 小时 200 Hz EEG 数据,并通过 Hugging Face 提供 Zarr 存储访问。
提出 FedBNN 联邦感知二值化框架,在异构数据下实现与全精度模型相当的精度。 该方法利用全局模型信息引导局部二值化,相比全精度模型在 FLOPs 上节省最高 58 倍,内存节省 32 倍。 为资源受限边缘设备提供了预测性能与部署效率的实用平衡方案。
HandsOnAid 在 Pixel 7 Pro 手机上实现离线急救响应,4-bit 微调 Gemma 2B 模型首次生成文本耗时 6.86 秒。 该模型经 QLoRA 在 5,550 条急救问答上微调,检索增强版得分 2.51/5,高于基础模型的 2.34 分。
提出PSL-RGHA框架,通过参考梯度半空间对齐机制缓解客户端训练发散。 结合参考梯度渐进构建与梯度半空间对齐两个组件,近似全局下降方向并限制冲突。实验证明其在多种设置下优于现有基线模型。
研究提出 Deep Personalization 框架,通过 Observer Agent 持续观察桌面活动并适配干预时机,利用隐式反馈提升主动 Agent 的个性化支持效果。
Tether AI 发布 BotPsy,一款基于 Qwen3.5-0.8B 构建的 0.8B 参数端侧智能体模型,采用 Apache 2.0 协议开源。通过在 BFCL v4 等六项工具调用基准上取得领先成绩(平均 45.0 分),并在推理 token 效率上较基座模型提升约 3 倍,该模型在低中难度任务场景中展现出优于 1.2B 以下规模模型的表现力。
推荐理由:0.8B 端侧模型通过蒸馏与两轮 RL 训练,在工具调用和多轮 Agent 基准上超越 2.5 倍参数量的模型,展示了小参数智能体路径。
iOS 27.3 首个 Beta 版加入 Siri AI 读取“健康”应用功能 Flag,检索范围覆盖 92 种 HealthKit 数据类型,目前处于禁用状态。 该功能支持查询活动圆环、睡眠摘要、用药计划等特定健康数据,并为结果提供可视化展示形式,但不包含“Vitals”生命体征数据。
龙芯中科宣布其智能机器车完成 ROS2 Jazzy 全栈移植,基于龙芯 2K3000 统一调度实现建图定位与机械臂抓取完整链路。 龙芯 2K3000 采用 12nm 制程,集成 8 个 LA364E 核心,主频最高 2.5GHz,单核 SPEC CPU 2006 定点分值 30 分;车辆搭载麦克纳姆轮实现全向运动。
华为麒麟 9050 系列搭载新一代达芬奇架构 NPU,实现业界首个 30B MoE 大模型端侧运行。 该 NPU 性能提升 140%、功耗降低 66%,支持多级存算协同优化及低比特量化,具备离线运行特性。
Arm 推出基于 Armv8.1-M 架构的 Cortex-M42 处理器,相比 Cortex-M33 向量算力最高提升 3 倍,能效最高提升 2 倍。 该处理器集成 Helium 向量扩展技术与紧凑 AHB 总线设计,主要面向成本敏感的可穿戴设备及工业控制器,本地支持音频处理与传感器分析。
ExecuTorch 发布新 WebGPU 后端,支持在 Chrome、Safari 等浏览器 GPU 内直接运行 PyTorch 模型。开发者可通过 torch.export 将模型导出为单个 .pte 文件,无需转换为 GGUF、ONNX 或 TFLite 格式。该后端还可在 Metal、Vulkan 及 D3D12 上原生执行。
苹果全资子公司 Claris 正在测试应用 Harbor,可将苹果芯片 Mac 变身本地 AI 服务器。该应用支持通过雷雳 5 连接多台 Mac 以运行规模更大的模型,用户无需手动配置即可浏览和下载开放权重模型。目前 Harbor 仍处于早期体验阶段,尚未向公众开放。
KORA OS 基于 NixOS 构建,底层融入智能体工作流与本地推理,采用自研 Cortex 引擎调度 CPU、GPU 和 NPU 资源,支持开放权重模型本地运行。 每个工作区在隔离沙箱中运行,记忆与上下文保留在本地不离开设备,降低了 AI 自动操作的安全风险。
技嘉推出采用英伟达 RTX Spark 平台的 AI TOP AERO 迷你主机,最高支持 128GB 统一内存。 设备搭载 RTX Spark N1X 芯片,整合 20 核 Grace CPU 与 Blackwell 架构 GPU,配备 4TB PCIe Gen 5 SSD 及 Wi-Fi 7。 其 1 升紧凑设计融入技嘉散热技术,旨在为端侧 AI 开发、内容创作和游戏提供稳定的本地计算环境。
Notebook AI 是一款 Mac 桌面应用,支持无账号本地记录,采用 MIT 开源协议。 架构为本地 Electron/FastAPI 侧车加云端 Next.js,通过 OpenAI 等 API 实现实时转录与总结,数据默认保留在本地文件系统。
Apple 正在开发新 Mac 应用 Harbor,用于将 Mac 转为私有的 AI 推理服务器。该应用支持在 Apple 硅上本地运行开放权重模型,且数据不出设备。用户可通过 Thunderbolt 5 连接多台 Mac 池化统一内存,以运行更大的模型或处理更高的并发请求,目前处于 Claris 品牌下的私测阶段。
Google 的 Gemini Intelligence 扩展至 motorola signature 27 和 Pixel 10 系列,并推出 Rambler、任务自动化、Create My Widget、Device Assistance 及 Android Auto 主动建议等功能。
Meta 宣布将 AI Agent Muse 扩展至 Apple Watch 和 Android Wear OS,用户现可通过语音通话、短信或听写直接与智能手表上的助手交互。
Akropolys 推出名为 Kiku 的服务,允许网站免费集成实时语音、聊天及主动个性化智能体。 支持通过批量或单条记录方式连接数据源,所有计划均支持单条摄入,高级计划支持批量摄入。 提供 npx skills add --skill akropolys-integration 命令,将集成技能赋予编程智能体。
项目利用 AI 开发兼容层,实现 macOS 应用在 Linux 系统上运行。 该兼容层架构类似 Wine,旨在跨平台执行应用。
Kora 操作系统正式发布,基于 Linux 内核并支持 x86-64 架构,旨在为 AI 原生创作者提供统一的多模型交互环境。系统通过“神经文件系统”按语义索引数据,允许用户在 OpenAI、Anthropic 及本地模型间无缝切换。Kora 计划 2027 年上市,目前已与 Qualcomm 合作支持骁龙 PC,并具备运行 Windows 应用的兼容层。
ChatCairn 现已在 Chrome 和 Edge 上线,可将 ChatGPT、Claude、Gemini、Grok 和 Perplexity 的对话保存为本地可搜索库。
Kora Systems 发布基于 Linux 的桌面操作系统 Kora,预计 2027 年上线,支持 Intel、AMD 及 Snapdragon 芯片。 该系统将 AI 模型和自主智能体直接集成到计算体验中,支持跨应用操作、文件访问及任务间上下文保留,开发团队利用 AI 编码工具将效率提升至少五倍。 目标用户为重度 AI 使用者,Kora 旨在提供本地与云结合的 AI 任务处理能力。
Ring 发布室内 AI 无人机摄像头 Drone Cam,售价 $249.99,计划 2027 年 1 月 27 日发货。该设备支持 2K 分辨率与 148 度视场,在触发后沿预设路线飞行并录制,单次飞行 5-8 分钟。The Verge 在纽约发布会现场实测,确认其导航平稳,但强调该设备完全依赖互联网,Wi-Fi 断连时只能降落,无法独立运行。
最新数据显示,我国算力总规模达到 310 万 PFLOPS,位居世界第二。 此前披露信息显示,我国算力总规模年增速约 30%,智能算力规模已达 159 万 PFLOPS。 相关报告指出,随着人工智能大模型加速赋能,智能算力产业将迎来蓬勃发展。
希捷发布 FireCuda Forge 外置存储设备,基于 Alkemi 平台利用机器学习在机械硬盘与 SSD 间自动迁移高频数据。 提供 8TB 和 20TB 机械硬盘版本,售价 699 美元和 899 美元,最高读取速度 2500MB/s。 设备未附带 NVMe SSD,需用户自行购买搭配,支持 Windows 11 或 macOS 26。
Eigin 是一款 iOS 个人 AI 智能体,主打本地优先与无 Shell 设计,支持私有、安全且用户可控的使用体验。 代码基于 AGPL v3 开源,用户可通过 Rust SDK 自部署。推理支持本地模型、欧洲云 AI 或 OpenAI 兼容供应商,内置 MCP 集成与本地语音交互功能。
华为宣布鸿蒙电脑应用数量已突破 2.1 万款,WPS、钉钉等头部应用全面适配,AI 赛道快速崛起。 中望 CAD、MWORKS 等专业软件完成适配,填补工程设计、科学仿真等国产电脑生态空白。 鸿蒙注册开发者突破 1100 万,DevEco 启动公测并融入 AI 能力,降低应用开发门槛。
韩国初创公司 DeepX 完成 DX-M2 边缘 AI 加速器流片,该芯片基于三星 LPDDR5X 存算一体技术,旨在 5W 功耗预算下实现 20B 至 100B 参数模型(3B 至 20B 激活)10 到 30 tokens/sec 的运行速度。 DX-M2 专为机器人、无人机等功率受限设备设计,若达成上述指标,无需 GPU 或云端连接即可实现大型本地模型的实用化。
研究提出 HiFloat4 格式及 Rollout-ResQ 方法,实现首次端到端 FP4 强化学习后训练,Qwen2.5-3B 模型精度差距从 3.59% 缩至 1.39%。
HARENA 是一个具备公开排行榜的活基准,评估了 16 种神经架构在智能手机、智能手表和微控制器等 29 个数据集上的性能与部署成本。 在测试中,CNN-HAR 整体领先,但有 8 种架构与其平均宏观 F1 分数差距在 2.5 点以内,而计算成本存在数量级差异。
研究者提出 LAD-TS 任务调度方法,结合潜在动作扩散网络与深度强化学习,在边缘网络中优化 AIGC 服务延迟。 该系统原型 DEdgeAI 显示,相比最先进方法,服务延迟减少 7.36%–18.11%;相比代表性商业平台,延迟减少 34.07%–94.96%。
LO-World 提出统一 4D 世界模型,在共享 BEV 潜在空间内同时预测 3D 语义占用和 LiDAR 点云。该模型将占用预测 IoU 提升 10.9%,LiDAR Chamfer Distance 降低 30.1%,单张 RTX 4090 上实现超 25 FPS 实时吞吐。
PhysDNet 在 Seeing Through Fog 基准上性能优于竞品 1.67 dB,计算量降低 5.2 倍,恢复 54.9% 的雾致检测损失。 该轻量架构融合近红外图像与稀疏 LiDAR 深度,通过物理约束双头目标进行训练,在 L/M/S 变体中以低于 4 瓦功耗运行。 模型被 NeurIPS 2026 接收,支持在固定功能 NPU 上部署。
生成式语音模型削弱了移动语音交互的生物特征认证安全性。 MoBiMark 提出一种实时移动端生物语音水印系统,通过超声波探测结合动态水印,实现实时说话人身份认证与篡改检测。 在四款智能手机 50 名用户测试中,系统平均准确率达 99.79%,且对语音质量影响可忽略。
该研究提出一种受神经活动同步启发的多层脉冲神经网络局部学习框架。各层使用局部计算的梯度更新权重,无需反向传播,显著降低了计算复杂度、训练延迟和能耗。模型在 MNIST 数据集上达到 97.78% 的分类准确率。 在加性高斯噪声和椒盐噪声测试中,模型在不同噪声水平下均表现出稳健性能,证明了其在低功耗边缘设备上的应用潜力。