跳到正文
Hacker News LLM· usetrim·· 5 小时前AI 评分65

Trim:本地代理压缩编码提示词以优化 LLM 上下文

Trim - local proxy that compresses coding prompts before they reach your LLM

AI 导读

Trim 是一个本地 OpenAI 兼容代理,用于压缩 Cursor、Claude Code 等工具的编码提示词,减少发送给 LLM 的 Token 数量。其 Fast Mode 采用 AST 启发式压缩,Deep Mode 将 LLMLingua 保持在本地设备上运行以处理长文本。

来源:Hacker News LLM · github.com