Seven Minute Feed·· 19 小时前AI 评分38
IBM 首席执行官:限制 AI Token 用量是“缓慢的失败之道”
IBM CEO: rationing AI tokens is 'a slow way to lose'
AI 导读
IBM 首席执行官指出,限制 Token 用量并仅向少数员工开放顶级模型属于对生产力技术的投入不足。 今年推理支出将超过训练支出,编码智能体阅读内容约为写作内容的 600 倍。IBM 开源项目 llm-d 通过 Red Hat 和 Google 合作实现重复上下文缓存,比限制用量更能有效降低成本。
来源:Seven Minute Feed · fortune.com