arXiv · AI· Leming Shen, Qiang Yang, Xinyu Huang, Zijing Ma, Yuanqing Zheng·· 4 小时前AI 评分21
AgentDP：面向异构嵌入式 AI 应用的全自动模型部署框架
AgentDP: Towards Automated Model Deployment for Heterogeneous Embedded AI Applications
AI 导读
AgentDP 利用 LLM 智能体实现异构嵌入式设备上预训练模型的全自动优化与适配，将模型适配时间最多减少 80%，且平均任务准确率比基线提高 13% 以上。 该框架通过用户需求标准化、算子感知的模型分割及超参数配置复用模块，解决 AI 模型与嵌入式设备执行环境不匹配及重复搜索优化参数的问题。 用户研究证明 AgentDP 在适配不同用户需求和异构嵌入式设备时具备良好的通用性。
来源：arXiv · AI · arxiv.org