跳到正文
HackerNoon · AI· Ishank Choudhary·· 22 天前AI 评分75

NVIDIA Nemotron 3.5 Bolt E4B 无 GPU 运行基准测试

Running NVIDIA Nemotron 3.5 Bolt E4B Without a GPU: Benchmark Results

AI 导读

NVIDIA Nemotron 3.5 Bolt E4B 模型在 8 核 CPU 无 GPU 环境下完成工具调用和语音助手闭环测试,生成速度约为 11 tokens/s。工具选择准确率达 100%,参数完全正确率 95%,单次语音交互全程耗时约 4.5 秒,内存占用约 4.7 GB。测试证实该模型适合在普通计算设备上实现离线语音交互,但在处理相对日期时需通过代码预解析以提高准确率。

来源:HackerNoon · AI · hackernoon.com