跳到正文
量子位· 听雨·· 12 小时前精选AI 评分77

百度开源文心Unlimited OCR 2:峰值KV缓存占用降至1.77GB,识别《指环王》884页仅需43分钟

KV Cache被压成常数!OCR开源新王:页数没上限,缓存砍96%

AI 导读

百度正式发布并开源文心Unlimited OCR 2。该模型峰值KV缓存占用从47GB降至1.77GB,减少约96%,单步解码速度达到Full Attention的7.0倍。实测在884页英文版《指环王》上,耗时约42分56秒完成解析,在MarathonDocBench和MPDocBench均取得最高分,项目已在GitHub和Hugging Face开放。

推荐理由

原文通过实测《指环王》和引用技术报告,展示了该模型在超长文档处理中如何将显存占用降低至常规方案极小比例的工程细节。

来源:量子位 · qbitai.com