跳到正文
Hacker News LLM· cmrdporcupine·· 5 小时前AI 评分73

Inception 发布 Mercury 3,扩散 LLM 达 1000 tok/s

Inception "Mercury 3", 1000 tok/s diffusion LLM

AI 导读

Inception 发布 Mercury 3,称其为迄今最强的扩散式 LLM,在 NVIDIA GPU 上跑 1,068 tokens/s,上下文 1M tokens,价格 $0.20/1M 输入、$0.70/1M 输出,发布期 5 折。

来源:Hacker News LLM · inceptionlabs.ai