- dotx95天前
OpenAI 宣布 API 现已支持 12 小时提示缓存（prompt caching）。持久化智能体（如 dots）可在全天复用共享指令、工具和上下文，即使请求间隔数小时，仍可按较低的缓存输入费率计费。
此外，Codex 与 Work 的登录用户可享永久缓存，回到旧对话或暂停数小时后继续无需任何惩罚，且保证命中缓存。
^-^
主楼 - Skenqs5天前
deepinfer刚出就降价啊，不是模型缓存写入还比输入贵呢吗，一下从1小时提到12小时，这真一般是都够用了 ^-^
- dotx95天前
- F15天前
我更关心切号的话，缓存会不会接续 ^-^
- dotx95天前
- F15天前
那可惜了，靠 Team 和 Plus 轮询享受不到这一轮福利了。现在基本上开一个 5 小时额度，第一分钟会掉 10% 左右的额度，估计主要都在缓存写入。后面大概 1 分钟掉 1.5% 左右。 ^-^
- roy5天前
agent重复前缀越多越划算