Anthropic 在 Claude 平台推出 Message Threads 公测,长对话首字延迟降低约 35%
中文摘要
Anthropic 推出 Claude Message Threads 公测,通过增量传输降低长对话延迟约 35%。
English Summary
Anthropic's Claude Message Threads beta reduces first-token latency by 35% for long conversations using incremental updates.
Original Excerpt
Anthropic 在 Claude 平台以公开测试版形式推出 Message Threads。此前每次 API 请求都需重发完整对话历史,新机制只传输自上一条消息以来的变化,据 Anthropic 称在 50 万至 100 万 token 的请求上可将首字时间缩短约 35%。