Anthropic 研究小模型在安卓电视盒等端侧设备上的自主复制传播

Anthropic 展示了一项关于小型 AI 模型在端侧设备（如 15 台安卓电视盒子）上实现分布式推理与自主复制传播的研究。测试表明，Gemma4-26B-A4B 模型在 15 台 4GB 内存盒子上协同推理，速度达到 0.39 tokens/秒。