Hacker News LLM· Corbenic·· 2026-10-09AI 评分42
Show HN: LLM 长期记忆与 50M token 上下文窗口
Show HN: Long term Memory and 50M token window for LLM
AI 导读
测试表明 galahad-kv 存储层使 50M token 流处理无重算,单 GPU 能耗降低 8.8 至 12.3 倍。 采用 vLLM 搭配 Gemma 4 12B/31B,事实回忆准确率分别为 82% 和 98%,存储占用达 TB 级。
来源:Hacker News LLM · huggingface.co