跳到正文
arXiv · AI· Zhu Jiaqi, Jain Prakriti, Katare Dewant, Kumar Saurabh·· 9 天前AI 评分26

面向车联网视觉 Transformer 的联合量化与动态分区框架

Joint Quantization and Dynamic Partitioning for Context-Aware Edge Vision Transformers

AI 导读

针对车联网中视觉 Transformer 模型部署难题,提出联合选择模型分区点、每层量化位宽及执行放置的框架,最小化计算与通信能耗。 该框架被建模为混合整数线性规划问题(MILP),在 Jetson Orin 系列节点上评估,通过 OPV2V 驱动的多流工作负载测试。

来源:arXiv · AI · arxiv.org