arXiv · NLP· Marc Serra Ortega, Andrey Barsky, Carlos Boned Riera, Tom\'as Ockier, Dimosthenis Karatzas·· 4 小时前AI 评分45
Boa 压缩器：基于 Mamba 状态空间模型的线性时间在线上下文压缩
Linear-Time Context Compression with State-Space Encoding
AI 导读
基于 Mamba 状态空间模型（SSM）的 Boa 压缩器通过线性时间在线压缩，在 16 倍压缩比下匹敌或超越离线基线，且推理速度比 Transformer 快一个数量级。
来源：arXiv · NLP · arxiv.org