跳到正文
HackerNoon · AI· Rajiv Gadda·· 13 天前精选AI 评分89

GPT-6 Astra 272K token 上下文附加费及成本控制指南

The 272K Footgun: How GPT-6 Astra's Context Surcharge Silently Doubles Your Bill

AI 导读

OpenAI 发布的 GPT-6 Astra 模型规定输入超过 272K token 时,全请求输入与输出费用分别按 2 倍和 1.5 倍计费,而非仅对超额部分加收,这极易导致 RAG 和 Agent 任务账单激增。作者建议通过 token 预算护栏、RAG 检索预算控制、Agent 轨迹压缩以及分层路由等策略,避免误入超额计费区间。

推荐理由

指出了GPT-6 Astra在272K token处按全请求加倍计费的隐性成本陷阱,并给出了基于tiktoken的预算护栏方案。

来源:HackerNoon · AI · hackernoon.com