arXiv · NLP· Minghan Wang, Jinhang Zuo, Zhongxiang Dai, Zhiyong Wang, Fang Kong·· 8 小时前AI 评分26
MARS：面向会话级LLM助手的记忆感知路由框架
MARS: Memory-Aware Routing for Session-Level LLM Assistants
AI 导读
summary_zh: MARS提出记忆感知路由框架，将记忆构建与模型选择通过会话状态连接，在质量、内存和成本间取得平衡。 在RealMem测试中，MARS保留GPT-4o 98.2%的问答能力，仅使用其14.5%的生成API成本，且记忆召回与检索分数最强。
来源：arXiv · NLP · arxiv.org