arXiv · AI· Xuning He, Kai Fan, Runyu Zhang, Binghuan Wang, Yuxiang Zhang, Xue Jiang, Yihong Dong·· 1 天前AI 评分34
ASTC：无训练智能体软 Token 压缩长时程 LLM 代理上下文
In-Model Context Compression with Agentic Soft Tokens for Long-Horizon LLM Agents
AI 导读
论文提出无训练的 ASTC 方法，利用混合 GDN-注意力将信息作为软 Token 传递，在长时程任务中最多减少 50.68% 的 Attention Pairs。
来源：arXiv · AI · arxiv.org