Anthropic 发布 Message Threads 降低长对话延迟
热点事件持续更新
Anthropic 发布 Message Threads 降低长对话延迟
2 篇报道2 个报道来源3 小时前更新
先了解这件事
AI 综述
Anthropic 在 Claude 平台推出 Message Threads 公测，该功能通过仅传输上次请求后的变更数据，将 50 万至 100 万 token 规模 API 请求的首字响应时间缩短约 35%。 尽管首字响应速度提升，但由于 Claude 仍需读取完整对话历史，该功能的 Token 使用量保持不变，未降低计算成本。 线程数据在内存中保持加密状态，闲置 5 分钟后过期，该功能适用于 Claude 平台及 AWS、Microsoft Foundry 和 Google Cloud。
AI 根据报道生成 · 2 小时前更新
最新进展11月3日 20:35
Anthropic 消息线程功能将 Claude API 长对话首字响应延迟降低 35%报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- The DecoderAnthropic 消息线程功能将 Claude API 长对话首字响应延迟降低 35%
Anthropic 在其 Claude 平台上发布了名为 Message Threads 的公开测试功能。该功能只需传输上次请求以来的变更数据，即可将 500,000 至 100 万个 token 规模的 API 请求的首个词元（time to first token）时间缩短约 35%。
- TLDR AIClaude 推出消息线程功能、Astra 6.2 现身及 Anthropic 接近 RSI
Anthropic 发布消息线程功能公测，允许智能体仅发送新消息而非重发完整历史。该功能使 50 万至 100 万 token 请求的首个 token 延迟中位数降低约 35%，且不改变 token 用量。 GPT-6.2 Astra 已出现在 Codex 使用记录中，可能即将正式发布；Anthropic 也在 IPO 文件中披露接近实现递归自我改进。 ```
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。