arXiv · ML· Junlin Liao, Harshit Kondle, Di Liu, Zonghua Gu·· 2026-10-15AI 评分25
Qwen2-VL-2B-Instruct 在边缘平台(Raspberry Pi 5 与 Jetson Orin Nano Super)推理能耗特征分析
Seeing at the Edge: Energy Characterization of Vision-Language Model Inference on Edge Platforms
AI 导读
研究显示在 Raspberry Pi 5 上使用 Hailo-10H NPU 运行 Qwen2-VL-2B-Instruct 可大幅降低推理能耗。NPU 卸载使每生成 token 能耗降低约三分之二,并避免 CPU 后端持续使用时的热节流问题,同时释放主机 CPU 资源。
来源:arXiv · ML · arxiv.org