OpenAI API 支持 12 小时 prompt 缓存,Codex 与 Work 用户缓存永久保留
中文摘要
OpenAI API 现支持 12 小时 prompt 缓存以降低成本,Codex 与 Work 用户则可享受永久缓存。
English Summary
OpenAI API now supports optional 12-hour prompt caching to reduce costs, with permanent caching for Codex and Work users.
原文节选
OpenAI 开发者账号宣布 API 现已可选 12 小时 prompt 缓存,持续运行的智能体可在请求间隔数小时的情况下继续以更低的缓存输入费率复用指令、工具和上下文。Tibo 补充称,Codex 与 Work 中已登录用户的缓存会永久保留,返回旧对话或数小时后恢复会话保证命中缓存,且无额外惩罚。