Hacker News LLM· sheephess44·· 8 小时前AI 评分55
Show HN:针对 117 个模型的显卡 VRAM 实测指南
Show HN: What LLM fits my GPU? – VRAM measured on real hardware for 117 models
AI 导读
quantized.uk 提供针对 117 个模型的 VRAM 实测数据,涵盖 RTX 4090/3090、M3 Max 等硬件及 llama.cpp、ExLlamaV2 等推理栈。
来源:Hacker News LLM · quantized.uk