arXiv · AI· Yuntao Dai, Hang Gu, Teng Wang, Qianyu Cheng, Yifei Zheng, Zhiyong Qiu, Lei Gong, Wenqi Lou, Xuehai Zhou·· 8 小时前AI 评分21
ActionFlow: 边缘端视觉语言模型流水线动作加速
ActionFlow: A Pipelined Action Acceleration for Vision Language Models on Edge
AI 导读
ActionFlow 框架实现边缘端 OpenVLA-7B 模型推理 2.55 倍 FPS 提升。 该框架通过 Cross-Request Pipelining 调度与 Unified KV Ring Buffer 算子优化硬件利用率。 无需重新训练即可支持 20-30 Hz 控制频率，实现实时动态操作。
来源：arXiv · AI · arxiv.org