跳到正文
arXiv · ML· Peichun Hua, Yunming Xiao·· 7 小时前AI 评分35

SemDN:为 LLM 代理重新思考网络检索基础设施

Semantics Delivery Network: Rethinking Web Retrieval Infrastructure for LLM Agents

AI 导读

提出 SemDN 语义分发网络,将语义块检索作为一等网络交付抽象,支持 LLM 代理在推理轮次中进行有状态检索。 SemDN 在块粒度上索引、搜索和缓存 Web 内容,由源端授权,并作为层级基础设施服务于客户端和源端。 实验表明,语义块分发可改善每上下文 token 的回答质量,且比 URL 缓存更有效地处理智能体查询中的块重用。

来源:arXiv · ML · arxiv.org