跳到正文
arXiv · ML· Junlin Liao, Harshit Kondle, Di Liu, Zonghua Gu·· 2026-10-15AI 评分25

Qwen2-VL-2B-Instruct 在边缘平台(Raspberry Pi 5 与 Jetson Orin Nano Super)推理能耗特征分析

Seeing at the Edge: Energy Characterization of Vision-Language Model Inference on Edge Platforms

AI 导读

研究显示在 Raspberry Pi 5 上使用 Hailo-10H NPU 运行 Qwen2-VL-2B-Instruct 可大幅降低推理能耗。NPU 卸载使每生成 token 能耗降低约三分之二,并避免 CPU 后端持续使用时的热节流问题,同时释放主机 CPU 资源。

来源:arXiv · ML · arxiv.org