跳到正文
arXiv · NLP· Romtham Tungsununtham, Piyawat Lertvittayakumjorn, Atiwong Suchato, Peerapon Vateekul·· 8 小时前AI 评分26

EffComp:混合强化学习与监督学习的高效提示词压缩框架

EffComp: Efficient Prompt Compression via Hybrid Reinforcement & Supervised Learning

AI 导读

EffComp 针对 RAG 问答任务提出高效提示词压缩框架,在多个基准上实现了压缩率与准确率的最佳平衡。 该框架采用 BERT 风格文档重排序器和句子选择器模型,通过混合强化学习与监督学习优化压缩过程。其抽取式特性防止了幻觉,且延迟极低,适用于实际生产环境。

来源:arXiv · NLP · arxiv.org