跳到正文
Hacker News LLM· Mojah·· 3 天前精选AI 评分78

LLM 正在为你支付空白符费用:一行 Prompt 指令让 JSON 输出紧凑化以节省成本

Your LLM is billing you for whitespace

AI 导读

要求 LLM 输出结构化数据时,许多模型默认生成带换行和缩进的 pretty-printed JSON,导致额外 token 消耗和延迟。在 Prompt 中追加一行指令“Write the JSON minified: one line, no spaces or line breaks outside string values”可强制输出单行紧凑 JSON。

推荐理由

通过十模型实测量化空白符对LLM成本与延迟的影响,提供直接可复用的Prompt指令以优化API调用开销。

来源:Hacker News LLM · getsnapkin.app