arXiv · ML· Ziji Chen, Steven W. D. Chien, Peng Qian, Noa Zilberman·· 6 小时前AI 评分37
Unveil：基于硬件遥测的机器学习隐性低效检测框架
Seeing is believing: The case for hardware-centric inefficiency detection and remediation
AI 导读
Unveil 提出一种仅依赖主机侧遥测数据的框架，用于检测和修复大型机器学习负载中的隐性低效问题。它无需应用修改，使用无监督学习模型识别低效，并减少监控开销至 2% 以下。该系统可将吞吐量损失恢复 7%，并将推理延迟降低最多 43.48%。
来源：arXiv · ML · arxiv.org