跳到正文
Hacker News·· 2 小时前AI 评分67

开源工具 Strata 实现在 RTX 4090 等消费级硬件上运行 Qwen3.8-Flash-Next 模型

Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s

AI 导读

开源工具 Strata 允许在配备 12GB 及以上显存的 NVIDIA 或 AMD 消费级显卡的电脑上本地运行 1250 亿参数的 Qwen3.8-Flash-Next 模型,通过跨 PC 各硬件的分层架构实现推理。

来源:Hacker News · github.com