跳到正文
arXiv · NLP· Jianfei Ma, Zhaoxin Feng, Emmanuele Chersoni, Si Chen·· 2026-10-15AI 评分30

语言学规则可作为有效的提示词压缩器

Every Time I Hire a Linguist, Inference Costs Go Down: On Linguistic Rules as Effective Prompt Compressors

AI 导读

语言学规则可替代基于大语言模型的评分,作为无模型向前传播的提示词压缩器。 该方法通过进化搜索组合词汇、句法等种子,在短文本、多文档推理及对话记忆数据集上,性能与先进提示词压缩策略相当。 结果显示,轻中度压缩下性能最强,随着压缩率增加,规则从词元剪枝转向句子抽取。

来源:arXiv · NLP · arxiv.org