OpenAI 为 GPT-6 推出改进的提示词缓存系统与诊断工具
中文摘要
OpenAI 为 GPT-6 推出改进的提示词缓存系统,对 30 分钟内复用的共享前缀提供最高 90% 的 token 折扣。
English Summary
OpenAI launched an improved prompt caching system for GPT-6, offering up to 90% discounts on input tokens for qualifying shared prefixes reused within 30 minutes.
Original Excerpt
OpenAI 为 GPT-6 系列推出改进的提示词缓存系统,默认提高缓存命中率,对 30 分钟窗口内复用的合格共享前缀提供最高 90% 的缓存输入 token 折扣。