行业新闻

OpenAI 为 GPT-6 改进 prompt caching,提升命中率并新增显式断点

GPT-6 升级缓存机制——更易命中、可手动设断点、暴露诊断信息,直接关系到长 prompt 应用的延迟和账单。

GPT-6 对 prompt caching(提示词缓存,把重复出现的前缀内容存下来复用,避免每次重算)做了改进:缓存命中率更高,新增了诊断工具和显式断点(手动指定缓存边界的位置),并给出更多可调参数,用来压低延迟和成本。

正文摘录

了解 GPT-6 如何通过更高的缓存命中率、全新的诊断能力、显式断点(explicit breakpoint)以及可降低延迟与成本的控制项,来改进 prompt caching(提示缓存)。

阅读原文(openai.com)→

行业新闻2026-09-22原文

相关内容