跳到正文
Hacker News LLM· fclairamb·· 2026-10-06AI 评分66

SimulKit:苹果设备本地运行开源大语言模型的速度与内存估算工具

Show HN: All local LLM(s) on all Apple Devices

AI 导读

SimulKit 是一个用于估算苹果设备上运行开源大语言模型性能的工具,用户可以选择具体的 Mac 型号和模型,工具会根据已发布的基准测试数据计算内存占用和每秒生成的 token 数量。例如,在配备 M5 Pro 芯片、48 GB 统一内存的 MacBook Pro 上,以 4 位量化运行 26B 参数的 Gemma 4 模型需要约 17 GB 内存,预计生成速度为 54 tokens/s。

来源:Hacker News LLM · simulkit.com