开源 AI 社区面临挑战：模型效率提升但自托管成本难降

开源 AI 模型正变得更难由个人托管，硬件成本阻碍了能力获取。 DeepSeek-V3（671B 总参，37B 激活）和 Llama 4 Maverick（400B 总参，17B 激活）显示 MoE 架构使权重存储昂贵，即便计算更高效。 vLLM 等引擎优化集群利用率，但个人部署因显存闲置和通信开销受限，导致社区可能被迫依赖单一供应商服务。