Hacker News LLM· taco-man·· 3 小时前AI 评分38
Taco 利用 GPT-2 实现跨 CPU/GPU 无损压缩
Show HN: Taco - LLM compression that gives the same bytes on every CPU and GPU
AI 导读
Taco 是一个基于 GPT-2 的无损压缩器,通过 HardShell 引擎仅使用整数算术,确保在所有 CPU 和 GPU 上生成完全相同的字节。 当前为 0.1.0 概念验证版本,主要特性是保证跨机器(如 macOS 与 Linux)压缩一致性,而非追求速度。 它是实验性工具,速度慢且并非 zstd 或 xz 的替代品,用户需保留数据副本。
来源:Hacker News LLM · github.com