跳到正文
热点事件持续更新

开发者Carmen测试AI生成Apple GPU内核

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

开发者 utsav1033 于 2026 年 10 月 27 日发布 CLI 工具 Carmen。该工具旨在 Apple Silicon Mac 上测试和验证大语言模型生成的 Metal GPU 内核性能。用户可通过 pip install carmen-kernels 或 uv tool install carmen-kernels 安装,在运行 carmen speedup 时测试 Qwen 2.5 0.5B 等标准模型无需 API 密钥。只有使用 carmen key 烹饪新内核时才需 Anthropic 密钥,保存在本地 .env 或 shell 中。 实测显示,Claude 生成的融合内核在 Qwen 0.5B 模型上比 MLX 快 1.82 倍。但在 3B 模型上,由于内存带宽限制,加速效果微乎其微。工具表明,实际性能提升主要依赖于推测解码机制,而非单纯的 GPU 内核生成优化。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. Hacker News AI精选
    Carmen 发布用于 Apple Silicon 的可靠 AI Metal 内核测试工具

    Carmen 是一个测试和验证 LLM 生成的 Metal GPU 内核的工具。实测显示,Claude 生成的融合内核在 Qwen 0.5B 上比 MLX 快 1.82 倍,但受限于内存带宽,在 3B 模型上加速效果微乎其微;实际提升主要依赖推测解码。

本事件热度走势

可比范围当前
9
可比范围峰值
1010月27日 23:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。