arXiv · NLP· Romtham Tungsununtham, Piyawat Lertvittayakumjorn, Atiwong Suchato, Peerapon Vateekul·· 8 小时前AI 评分26
EffComp:混合强化学习与监督学习的高效提示词压缩框架
EffComp: Efficient Prompt Compression via Hybrid Reinforcement & Supervised Learning
AI 导读
EffComp 针对 RAG 问答任务提出高效提示词压缩框架,在多个基准上实现了压缩率与准确率的最佳平衡。 该框架采用 BERT 风格文档重排序器和句子选择器模型,通过混合强化学习与监督学习优化压缩过程。其抽取式特性防止了幻觉,且延迟极低,适用于实际生产环境。
来源:arXiv · NLP · arxiv.org