跳到正文
arXiv · NLP· Erika Hayashi, Andrew Shin·· 2026-10-14AI 评分40

个性化 LLM 上下文精简:通过相关性过滤实现 5% 文本匹配全历史

Do Personalized LLMs Need the Whole Conversation? Matching the Full History with Only 5% of Its Text via Relevance-Filtered Context

AI 导读

相关性过滤上下文仅需 5% 文本量即可匹配完整历史准确率,使模型输入成本降低 20 倍。 该方法通过句子级检索按相似度排序并设定固定预算,比 LLM 摘要仅需小嵌入模型支持。 Oracle 实验显示,仅使用检索到的证据比完整历史表现高 15.6 分,证明优化上下文选择可超越全历史记录。

来源:arXiv · NLP · arxiv.org