PARC提出端侧多模态智能体并行对齐剪枝方法

2026年11月3日，arXiv发布研究PARC，针对端侧多模态智能体在部署时面临的两大核心错配问题：注意力结构不整除导致的硬件利用率低，以及KV缓存随对话轮次增加而膨胀引发的内存压力。该方案通过引入一阶泰勒重要度评估，执行结构化剪枝，确保注意力维度能被处理器核心数整除，从而优化并行计算效率。同时，PARC采用了轮次感知的上下文复用机制，按时效性重组KV缓存，将不再活跃的历史图像数据移出持久缓存，有效控制了内存峰值。实验数据显示，在七核部署环境下，该方法将视觉编码器延迟降低了11.4%，解码吞吐量提升了23.8%，每堆内存峰值降低了12.7%。进一步的恢复训练显示，该方法能恢复98.7%的动作类型准确率差距，验证了其在保持模型性能的同时优化部署效率的有效性。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。