跳到正文
arXiv · ML· Sayed Amir Karim (Pelloran Inc.)·· 9 天前AI 评分48

tritify 实现精确整数算术下的确定性可复现推理

Deterministic, Reproducible Inference in Exact Integer Arithmetic, and Verifiable Distributed Inference as Its Consequence

AI 导读

tritify 开源运行时通过精确整数算术实现跨硬件位级可复现推理,SHA-256 哈希验证输出一致性。 验证覆盖 OLMoE 及 106B 参数 GLM-4.5-Air,在 CPU/GPU 及分布机器上保持比特相同,实现可验证分布式推理。 该机制允许不信任服务器运行模型,由开放标量预言机重推导字节,拒绝单设备加速与机密性声明。

来源:arXiv · ML · arxiv.org