跳到正文
MIT Technology Review · AI· Affan Syed·· 17 天前AI 评分26

HPE Private Cloud AI 建议企业按合并 Pull Request 成本而非 Token 量优化 AI 开发生效

Stop counting tokens, start counting what ships

AI 导读

HPE 提出以每个合并 Pull Request 的总成本作为核心指标,替代按 Token 计价的使用量限制。该模型将重型常规任务路由至本地运行的开放权重模型,利用自有算力降低推理成本。HPE 内部数据显示,混合架构使 Token 成本降低 30% 至 50%。 此举使企业能在保持敏感代码本地化的同时,更高效地利用前沿模型,实现 AI 使用率增长与经济效益提升的双重目标。

来源:MIT Technology Review · AI · technologyreview.com