Back to Home
RadarAI··Papers & Tech

OpenAI 为 GPT-6 推出改进的提示词缓存系统与诊断工具

中文摘要

OpenAI 为 GPT-6 推出改进的提示词缓存系统,对 30 分钟内复用的共享前缀提供最高 90% 的 token 折扣。

English Summary

OpenAI launched an improved prompt caching system for GPT-6, offering up to 90% discounts on input tokens for qualifying shared prefixes reused within 30 minutes.

Original Excerpt

OpenAI 为 GPT-6 系列推出改进的提示词缓存系统,默认提高缓存命中率,对 30 分钟窗口内复用的合格共享前缀提供最高 90% 的缓存输入 token 折扣。