The Decoder· Matthias Bastian·· 3 小时前AI 评分72
Anthropic 消息线程功能将 Claude API 长对话首字响应延迟降低 35%
Anthropic's Message Threads cut time to first token by 35 percent for long conversations
AI 导读
Anthropic 在其 Claude 平台上发布了名为 Message Threads 的公开测试功能。该功能只需传输上次请求以来的变更数据，即可将 500,000 至 100 万个 token 规模的 API 请求的首个词元（time to first token）时间缩短约 35%。
来源：The Decoder · the-decoder.com