EffComp提出混合学习压缩框架

EffComp 针对 RAG 问答任务提出了一种高效的提示词压缩框架，旨在解决传统方法在压缩率与准确率之间的平衡难题。该框架采用 BERT 风格的文档重排序器和句子选择器模型，利用其抽取式特性防止模型产生幻觉，同时保持极低的推理延迟。通过结合混合强化学习与监督学习优化压缩过程，该系统在多个问答数据集基准测试中表现优异。目前，EffComp 在多项指标上优于现有最先进（SOTA）的提示压缩方法，展现出适用于实际生产环境的潜力。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。