跳到正文
热点事件持续更新

MIRASTACK 主张按 GPU 小时计费 LLM 推理

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

MIRASTACK 提出 LLM 推理应按 GPU 小时而非 token 计费,旨在消除按量计费带来的成本不确定性。 该公司通过售卖固定时长的计算资源,允许用户实现无限 token 使用,使用无需因频繁调用而限制开发节奏。 公司面向个人、团队及企业,提供全托管或本地化的 AI 工厂方案。其技术架构基于自研网关与 GPU 集群,主要运行开源模型。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月8日
  1. Hacker News LLM
    MIRASTACK 是否提出按 GPU 小时而非 token 计费 LLM 推理

    MIRASTACK 主张 LLM 推理应按 GPU 小时而非 token 计费,通过售卖固定时长的计算资源实现无限 token 使用。 公司提供针对个人、团队及企业的全托管或本地化 AI 工厂方案,使用自研网关并基于 GPU 集群运行开源模型。 旨在消除按量计费的成本不确定性,使企业无需为频繁调用模型限制开发节奏。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。