arXiv · ML· Bernhard Klein, Falk Selker, Hendrik Borras, Sophie Steger, Franz Pernkopf, Holger Fr\"oning·· 8 小时前AI 评分28
PFP-BNNs 在嵌入式 ARM 上实现最高 4200 倍加速
Accelerated Execution of Bayesian Neural Networks using a Single Probabilistic Forward Pass and Code Generation
AI 导读
PFP-BNNs 通过单次确定性前向传播替代采样，在嵌入式 ARM CPU 上实现最高 4200 倍推理加速。 该方案基于 TVM 编译器库，在 Dirty-MNIST 数据集上，其精度、不确定性估计及 OOD 检测性能均匹配 SVI-BNNs。 结合代码生成实现 BNN 在资源受限系统的高效部署，已被 ACM TACO 接收。
来源：arXiv · ML · arxiv.org