跳到正文
原文
OpenAI News·· 2024-10-01AI 评分31

OpenAI API 推出提示词缓存功能

AI 导读

OpenAI 在 API 中推出提示词缓存(Prompt Caching),对模型近期已见过的输入自动提供折扣。该功能面向 API 用户,无需额外配置即可享受输入 token 的自动降价。

当前提供 AI 导读,完整正文请阅读原文。

来源:OpenAI News · openai.com