Carmen 发布用于 Apple Silicon 的可靠 AI Metal 内核测试工具

Carmen 是一个测试和验证 LLM 生成的 Metal GPU 内核的工具。实测显示，Claude 生成的融合内核在 Qwen 0.5B 上比 MLX 快 1.82 倍，但受限于内存带宽，在 3B 模型上加速效果微乎其微；实际提升主要依赖推测解码。