跳到正文
Hacker News LLM· gradientpenalty·· 8 天前AI 评分55

用 Currents News API 和 TypeSafe Jev 前置筛选降低 LLM 简报成本

Cutting LLM Token Costs with Currents News API and TypeSafe Jev Pre-Filtering

AI 导读

Currents 团队基于 2000 篇实时新闻的测试显示,在 LLM 合成前加入 TypeSafe Jev 分类筛选,默认 0.70 阈值下可减少简报输入 token 16%–18%,而盲测中 6 个质量评估单元里有 5 个与未筛选结果无统计学差异。

来源:Hacker News LLM · currentsapi.services