Hacker News LLM· gradientpenalty·· 8 天前AI 评分55
用 Currents News API 和 TypeSafe Jev 前置筛选降低 LLM 简报成本
Cutting LLM Token Costs with Currents News API and TypeSafe Jev Pre-Filtering
AI 导读
Currents 团队基于 2000 篇实时新闻的测试显示,在 LLM 合成前加入 TypeSafe Jev 分类筛选,默认 0.70 阈值下可减少简报输入 token 16%–18%,而盲测中 6 个质量评估单元里有 5 个与未筛选结果无统计学差异。
来源:Hacker News LLM · currentsapi.services