arXiv · ML· Tomer Solberg·· 9 天前AI 评分41
Sable:用于大语言模型位精确推理的小域 Sumcheck 论证系统
Sable: A Small-Field Sumcheck Argument for Bit-Exact Inference of Large Language Models
AI 导读
Sable 提出一种单 GPU 证明器,可逐位验证整数量化 Transformer 生成的 token 序列,且中间计算无回绕。 核心验证基于 31-bit KoalaBear 素数约束系统,使用 LogUp-GKR 和 Reed-Solomon 承诺。
来源:arXiv · ML · arxiv.org