跳到正文
arXiv · AI· Ryan Lum, Yongfeng Zhang·· 6 小时前AI 评分28

AIOS 提出内核管理的共享内存实现系统级个性化

Kernel-Managed Shared Memory for System-Wide Personalization

AI 导读

论文在 AIOS 系统中提出由内核统一管理检索、隐私与提示词注入的共享内存机制。在 GPT-4o、Llama-3.1:8B 和 Qwen-2.5:7B 共 1,800 次试验中,相比未管理的 Mem0 后端,个性化得分提升 2.4-4.0 分(5 分制),且每次调用的 token 用量和推理成本均降低。端到端延迟降低 15-61%,以更低成本实现了接近无限制上下文的个性化效果。

来源:arXiv · AI · arxiv.org