返回首页
RadarAI··论文与技术

Anthropic 在 Claude 平台推出 Message Threads 公测,长对话首字延迟降低约 35%

中文摘要

Anthropic 推出 Claude Message Threads 公测,通过增量传输降低长对话延迟约 35%。

English Summary

Anthropic's Claude Message Threads beta reduces first-token latency by 35% for long conversations using incremental updates.

原文节选

Anthropic 在 Claude 平台以公开测试版形式推出 Message Threads。此前每次 API 请求都需重发完整对话历史,新机制只传输自上一条消息以来的变化,据 Anthropic 称在 50 万至 100 万 token 的请求上可将首字时间缩短约 35%。