跳到正文
arXiv · NLP· Evan Li, Krishna Deshpande, Wen Cheng, Shyamnath Gollakota·· 9 天前AI 评分34

Mobile AI Factory:为移动设备构建专用语言模型的智能体系统

Mobile AI Factory: Building Specialized Language Models for Your Mobile Device

AI 导读

Mobile AI Factory 是一个智能体系统,可为特定任务和手机构建微调、量化的小型语言模型(SLM)。 该系统在10项任务和4款Android手机上评估,其端侧模型在5项任务上超过两个五-shot前沿模型最多0.34,且比穷举训练节省19倍GPU时间。 代码已开源。

来源:arXiv · NLP · arxiv.org