arXiv · ML· Zijun Jiang, Yangdi Lyu·· 5 小时前AI 评分24
MiCoPro：基于硬件感知代理模型的端到端混合精度软硬件协同设计
MiCoPro: End-to-End Mixed Precision HW/SW Co-design with HW-aware Proxy Model
AI 导读
MiCoPro 框架引入硬件感知代理模型（HAP），实现从 PyTorch 模型到裸机 C 代码的快速探索与直接部署。 在 BitFusion 加速器和 SIMD 扩展 RISC-V 处理器上验证，该框架实现了高达 40% 的延迟降低，同时精度损失控制在 3% 以内。 该框架解决了现有混合精度量化（MPQ）方案灵活性不足及缺乏端到端部署工具的问题。
来源：arXiv · ML · arxiv.org