arXiv · NLP· Senhao Liu, Yuheng Zhang, Chunyu Wei, Yueguo Chen, Xinran Zhang·· 9 天前AI 评分29
OpticalRAG: 像素空间压缩实现 Token 高效 RAG
OpticalRAG: Pixel-Space Compression for Token-Efficient Retrieval-Augmented Generation
AI 导读
OpticalRAG 框架将文档渲染为页面图像,经冻结视觉编码器处理并蒸馏为 16 个注入 token,在 LongBench-v2、BAMBOO 和 LooGLE-v2 基准上取得最佳压缩感知准确率。 该框架包含无需对比训练的编码器桥接检索和查询驱动蒸馏模块,使 Qwen2.5-7B-Instruct 基线模型提升 5.17 分,论文已被 NeurIPS 2026 接收。
来源:arXiv · NLP · arxiv.org