跳到正文
量子位· 量子位的朋友们·· 11 天前AI 评分43

高通在进博会展示端侧MoE智能体,携手多方优化运行效率

终端侧AI:从单点应用走向智能体体验

AI 导读

高通在第九届进博会展出端侧MoE智能体,联合Infris AI、江波龙、阶跃星辰共同优化模型推理、存储与芯片平台协同。 针对终端内存功耗限制,该方案通过专家模块预取与UFS加载优化,提升复杂任务处理效率,推动端侧AI从单点应用走向系统级智能体体验。

来源:量子位 · qbitai.com