arXiv · ML· Xingke Yang, Sicong Li, Lingfeng Yao, Rui Chen, Changqing Luo, Xin Fu, Miao Pan·· 2026-10-14AI 评分34
PUR方法:基于语义集中度的PEFT与RAG工作负载分配提升个性化LLM性能
Fast and Accurate: Improving Personalized LLM Performance by Semantic Concentration Inspired Workload Split between RAG and Fine-Tuning
AI 导读
研究人员提出PUR方法,通过将用户历史数据中的核心语义信息分配给PEFT、分散信息保留给RAG,实现个性化LLM生成的准确性提升与推理延迟降低。 实验表明,PUR在多个任务中持续达到最佳生成质量,相比现有最优方法推理延迟降低14.4%–46.6%。 该方法为平衡个性化LLM服务的质量与效率提供了新的架构设计思路。
来源:arXiv · ML · arxiv.org