Neural Integral Control Barrier Functions for Agile Collision Avoidance
通过数据驱动方式同时学习动力学、标称控制器及积分控制障碍函数(ICBF),其中障碍物函数基于可行性而非几何特征训练。 在6D动态自行车敏捷赛车测试中,该滤波器以单CPU核心100Hz以上的频率运行,消除了200个保留布局中全部12个不安全片段,且成功率保持不变。 该方法确保了执行器约束的精确性,即使在模型存在较大误差时仍能保持优势。
通过数据驱动方式同时学习动力学、标称控制器及积分控制障碍函数(ICBF),其中障碍物函数基于可行性而非几何特征训练。 在6D动态自行车敏捷赛车测试中,该滤波器以单CPU核心100Hz以上的频率运行,消除了200个保留布局中全部12个不安全片段,且成功率保持不变。 该方法确保了执行器约束的精确性,即使在模型存在较大误差时仍能保持优势。
BitLLM 是一款面向移动 GPU 的低比特 LLM 推理引擎,通过整数原生执行流水线与自适应 KV cache 布局,解决了量化模型中的类型转换和内存访问瓶颈。在现有商用移动 GPU 上测试,其平均速度相比主流引擎提升 1.47 至 1.78 倍,长上下文生成时单 token 能耗降低最多 88.9%。
论文提出基于共享 DQN 策略的 Edge-Intelligent 架构,实现电动汽车在智能城市中的实时充电管理。 在摩洛哥 Rabat 和 Tangier 路网仿真中,DQN agent 相比 Adaptive Heuristic 的充能率提升 6.8% 和交付能量增加 5.4%。
MAPLE 提出一种无梯度的多智能体框架,通过动态分步经验共享与执行时提示词进化,消除盲目试错循环。该框架支持实时交叉参考运行见解,引导智能体沿直接交互路径执行。在 AndroidWorld 和 MobileWorld 基准测试中,MAPLE 在复杂长时程任务上实现最优性能。
系统 Heirloom 可在不保留用户标签数据的情况下,将个人化适配器迁移至新基座模型,在电影标签任务中迁移后准确率与升级前差异不超过 1.7 个百分点。 在手机 NPU 上执行 4B 模型升级的固定长度迁移耗时 38 分钟,全程耗电 20%,适合夜间充电时完成。
论文提出一种将 MXFP4 语言模型权重精确映射为 INT8 操作数的方法,使 4 位权重在仅支持 INT8×INT8 数据通路的硬件(如 Apple M5 神经网络加速器)上执行。
TileWeave 通过异构分块解决移动端 NPU 对规则大 tile 的偏好与 Block-sparse attention 不规则选择的冲突。 它将高共享 key 块分配给 NPU,低重用块由 GPU 处理特定查询,并在骁龙 SM8750/SM8850 上将全模型 prefill 速度较 XAttention 提升 1.35-3.23 倍。
MXCode 提出三种策略,将向量量化压缩与 MicroXcaling FP4 计算结合,实现约 2 bits/weight 权重存储且无需生成高精度中间权重。 在 Qwen3 (235B)、DeepSeek-R1 (671B) 和 GLM-5.2 (753B) 上评估,Qwen3 (235B) 在 GB300 上模型加载内存比原生 FP4 低约 50%,P90 TTFT 最高提升 94.5%。
该论文提出一种结合量化、低秩与稀疏分解的PTQ方法,利用模拟退火优化以补偿量化误差,显著降低大模型部署的内存负担。 实验在Llama 3.2 1B/3B、Llama 3.1 8B及Qwen2.5 7B上验证,使用4-bit NF4和FP4量化器,结果显示该方法在自然语言生成基准上明显优于直接量化,且内存开销极小。
提出结合 GAN 姿态正脸化与忆阻器神经形态识别的非正脸识别框架,在两个数据集上识别准确率最高达 96%。 框架整合轻量化生成对抗网络处理非正脸姿态,利用忆阻器系统实现边缘端高效计算,缓解传统 AI 算力瓶颈。 该方法为动态现实环境(如无人机)提供可扩展、高效的资源受限人脸识别方案。
ActionFlow 框架实现边缘端 OpenVLA-7B 模型推理 2.55 倍 FPS 提升。 该框架通过 Cross-Request Pipelining 调度与 Unified KV Ring Buffer 算子优化硬件利用率。 无需重新训练即可支持 20-30 Hz 控制频率,实现实时动态操作。
PlantVLM-Edge 提出量化视觉语言框架,实现无云连接的边缘设备作物健康诊断。在 NVIDIA Jetson AGX Orin 上部署,4-bit AWQ 量化保留 98.6% 精度并将 2B 模型内存降低 49%。
提出场景自适应读出与解码框架,通过单次骨干网络扫描结合 MoE 加权读出层及自适应策略减少冗余计算。在 Waymo E2E 和 nuScenes 基准上,验证集 RFS 最高提升 0.56,Waymo E2E 端到端加速达 6.0 倍。 该框架利用层特定后期表征支持轨迹读出,并仅在场景需要时应用额外原生细化。代码已开源。
MatMoE 是一种针对高效 MoE 推理的动态混合精度量化框架。 其算法通过 Matryoshka MoE PTQ 和动态比特位分配,在满足延迟约束的同时,将精度提升了 4.0% 至 18.3%。 相比静态方法,MatMoE 在 Raspberry Pi 5 等边缘设备上实现了 1.3 至 3.7 倍的推理加速。
TADA 是一款支持跨内存技术泛化的 DNN 加速器性能与能量估算器,其设计空间探索吞吐量比仿真器提升超过 10^4 倍。 该模型在 21 条未见过的技术曲线上预测能量与延迟的平均绝对百分比误差分别为 1.5-4.4% 和 0.7-1.2%,支持 SRAM 及 ReRAM 等多种存储类型。 该研究已被 2027 年 ASPDAC 会议接收。
针对视障与分心行人需求,一款 Android 应用利用重训练 YOLOv8 检测 18 类城市障碍物,实现低延迟实时预警。 通过剪枝、量化及早退出分支,配合 Android NNAPI,中等手机推理延迟由 3.2 秒降至 0.39-0.48 秒,推荐配置在 0.42-0.48 秒内保持 0.81 召回率,且无需专用传感器。
针对端侧视觉语言模型(VLM)在持续感知场景下的能耗,研究重审了视觉预填充(visual-prefill)的能量结论。 在 Jetson AGX Thor 和 Orin 上剖析 9 款 VLM 的 4,508 条记录,发现单次输出 token 解码成本随模型规模单调增长,而视觉预填充成本主要受视觉编码器架构效率主导。
端侧多模态智能体面临注意力结构不整除与KV缓存随轮次膨胀两大部署错配问题。PARC通过一阶泰勒重要度进行结构化剪枝,使注意力维度可被核心数整除,并按时效性重组KV缓存,让历史图像移出持久缓存。在七核部署下,该方法将视觉编码器延迟降低11.4%,解码吞吐量提升23.8%,每堆内存峰值降低12.7%。任务感知恢复训练恢复了98.7%的动作类型准确率差距。
论文提出 SE2 范式,利用 LLM 推理能力实现边缘 AI 应用开发的自适应工作流。 通过将开发分解为检索、推理、编码、测试四个原子操作,智能体可动态选择下一步骤。 实验显示,该方法生成的程序准确率比最先进基线高出 26%,资源消耗降低 28%。
Trail 提出一种完全本地化的智能家庭控制框架,通过分层类型化决策替代开放生成,确保动作有效性并支持置信度弃选。在扩展的 HomeBench 数据集上,Trail 在 Trek-Robust 测试中达到 85.3% 准确率,显著优于微调 Qwen3.5-4B 基线的 69.8%。 该框架引入结构化记忆模块处理多轮交互,解决 75.6% 依赖前序轮次的请求,远超基线模型的 42.5%。
该研究通过72种压缩配置评估了量化、剪枝与恢复技术在2.7B-7B参数模型上的交互影响。INT8量化在内存减少40-45%的情况下几乎无损,而NF4量化结合L1幅度剪枝导致模型崩溃。LoRA微调可将剪枝后的困惑度降低高达97%。
提出一种基于学习的自适应 B-spline 节点放置方法,用于近似常微分方程生成的轨迹。神经网络从系统初始条件映射到局部变化特征量,构建非均匀节点分布以近似均衡局部误差指示器。该方法在满足规定精度下减少了所需控制点数量,适用于非线性四旋翼系统的实时轨迹近似。
提出SACQ量化框架,在1.5 bits下LIBERO成功率达93.85%,内存降低4.83倍。 结合结构感知码本与动作感知混合比特分配,配合INT8激活量化后速度提升1.51倍。
4B参数混合智能体Mage-VL-Cowork在OSWorld-Verified基准测试中得分达66.0%,实现同级参数规模的最优性能。 Mage-CUA-Forge合成293,806个桌面与Web任务,并降低82.6%的单任务开销;通过五阶段渐进课程完成训练。 该成果将前沿边界推向端侧智能领域。
研究针对胸前佩戴 UWB 标签导致的穿主非视距(WNLOS)现象,对比了现有及设备端的 ML 分类器与 UWB 无线电链路指标(LI)分类器,并提出了利用两者互补性的新型混合分类方案。
针对 HiFloat4 层级 BFP 格式缺乏有效校准方法的问题,论文提出 HiGPTQ、HiAutoRound 和 HiFlatQuant 三种校准方案。 这三种方法均显著优于直接 HiF4 转换,将 HiF4 与 BF16 的精度差距缩小至 1% 以内,且在各类模型和下游任务中性能优于 NVFP4 格式。 解决低精度量化带来的精度下降问题,进一步降低 LLM 部署的计算成本。
论文提出 LanG 2.0,一种通过结构性保障而非模型精度提供安全保证的 Agentic 系统,用于安全运营中心。 该系统将战役关联精度从 18.75% 提升至 51.81%,规则接受度达 98.33%。
面壁智能联合梧桐科技与英特尔打造的 AI Box 已随长安深蓝 L06 量产交付,作为选装模块解决座舱算力供给与模型快速迭代错配难题。 该模块化端侧算力节点搭载英特尔 Core Ultra 平台及面壁 4B VLM 模型,支持 OTA 升级,实现本地隐私处理与主动服务。 从发布到量产仅用三个月,AI Box 将车机带入全时感知、主动服务的智能 4.0 时代。
MiCoPro 框架引入硬件感知代理模型(HAP),实现从 PyTorch 模型到裸机 C 代码的快速探索与直接部署。 在 BitFusion 加速器和 SIMD 扩展 RISC-V 处理器上验证,该框架实现了高达 40% 的延迟降低,同时精度损失控制在 3% 以内。 该框架解决了现有混合精度量化(MPQ)方案灵活性不足及缺乏端到端部署工具的问题。
BEVLight 提出了一种从无人机鸟瞰图直接推导交通信号动作的框架,在 16 个场景中的 12 个实现了最低平均等待时间。 该模型将视觉特征映射到车道并组合为相位表示,利用超过 5K 个人类控制决策及重渲染轨迹进行训练,以增强视觉鲁棒性。 闭环实验显示其零样本泛化能力优于感知基线,平均等待时间降低 7–9%,且能迁移至真实无人机观测数据。
研究者推出 MCCL,这是首个支持多节点 PyTorch 训练的金属通信集合库,解决 Apple MPS 缺乏分布式后端的问题。 MCCL 在 24 个节点测试中,大型 all-reduce 操作达到 TCP 良吞吐量的 98-99.7%。
研究人员在 ESP32-P4 微控制器上成功运行了 65.7M 参数的英语流式语音识别模型 Kroko,未使用任何神经加速器。该模型经 2/4 位量化后权重文件仅 26.65 MB,处理每个 1.28 秒音频块耗时 0.90 秒,LibriSpeech test-clean WER 为 4.34%。
MulClip是一种用于微控制器储层计算(RC)的轻量级激活函数,仅使用比较、绝对值、乘法和减法运算,避免了查表操作。 在Cortex-M4上,其状态更新时间是tanh的0.34倍,优于11种tanh近似方法。在PC端评估中,三阶MulClip在NARMA-20任务上的NMSE比tanh低22%,在8位奇偶校验任务上的准确率提升至0.97-0.98。
EdgeCIM 在 LLaMA3.2 3B(INT4)下吞吐量较 NVIDIA Jetson AGX Orin 高 1.76 倍,较骁龙 X Elite 高 7.07 倍。
研究者提出 ADLER 解码协议,确保云端 LLM API 的消息仅依赖公开视图和用户可见答案,杜绝私有内容泄露。 在 GSM8K 数学题测试中,使用无限泄露预算的 ADLER 将 0.5B 和 1.5B 客户端模型的精确匹配准确率分别提升至 0.83 和 0.85,接近上传完整问题的 0.92。 该协议通过客户端泄露账本限制答案揭示程度,在 16 nats 预算内保持了接近仅云端基线的精度。
研究团队提出 GAAC 无损 KV 压缩系统,通过利用 BF16 指数冗余实现 1.405-1.407× 的压缩率,且在 64K 上下文长度下将 decode attention 速度提升 1.19-1.27 倍。
研究者在单张消费级 GPU 上从零训练 11M 至 12M 参数的小语言模型,发布了包含自回归与掩码扩散两种生成模式的 Python 包。 在巴西葡萄牙语及联邦法律文本上,掩码扩散模式在 256 个 epoch 达到最优,表现优于自回归模式,并在补全交叉引用方面击败 160M 和 630M 参数模型。 该研究提供了经过预注册的对比协议和参考基准数据,验证了在家构建专业领域小模型的可行性。
Hugging Face 发布 AnySpeechRecognizer 和 AnyDecisionModel 两个 Swift 包,支持在 Apple 平台运行开源语音识别与决策模型。
推荐理由:Hugging Face 官方提供 Swift 包实现 Apple 平台语音识别与决策模型,支持本地运行多家开源模型及音频流式处理。
NVIDIA 今天推出开源权重语音模型 Nemotron 3.5 Transcribe,单个模型即可处理转录、说话人识别和翻译,支持 40 种语言。该模型在 Hugging Face 开放 ASR 榜单排名 No.1,采用约 43 亿活跃参数,比当前排名第一的开源权重模型参数少约 80%。
推荐理由:NVIDIA开源语音模型Nemotron 3.5 Transcribe一次完成转录、说话人分离和翻译,用本地设备即可完成多语种音频信息提取。
豆包工作宣布其操作电脑的能力整体升级,具体表现为屏幕点击的精度和速度得到提升。