跳到正文
arXiv · ML· Tomer Solberg·· 9 天前AI 评分41

Sable:用于大语言模型位精确推理的小域 Sumcheck 论证系统

Sable: A Small-Field Sumcheck Argument for Bit-Exact Inference of Large Language Models

AI 导读

Sable 提出一种单 GPU 证明器,可逐位验证整数量化 Transformer 生成的 token 序列,且中间计算无回绕。 核心验证基于 31-bit KoalaBear 素数约束系统,使用 LogUp-GKR 和 Reed-Solomon 承诺。

来源:arXiv · ML · arxiv.org