- libreisme2026-09-0431563
周五了,开始摸鱼)不是。这几天一直在高强度用 dsh, 虽然接的是codex或者是 k3, 但是我真的觉得好高的缓存命中率。感觉 在其他app中很难遇到?虽然有很大概率就是我的问题普遍都是很检索到就是了。
主楼 - admini-linuxdo2026-09-047702
一直以为缓存命中率和客户端的关系不大吧(客户端只要有良好的编排输入就行)。缓存不是 ai 推理服务器计算的吗?
- Kassdin2026-09-045769

重点是上游不能抽风,本地客户端都差不多,顶多是工具调用轮次的区别。轮次越多总体缓存命中率就越高。另外上下文长度开的长,每次新写的 tokens 和写入缓存之比就低,每次缓存命中率就高,导致计算的平均缓存命中率也高。
- libreisme2026-09-0431563
但是其实我用axon的缓存统计,然后用cc或者是codex cli工具去访问,缓存命中率普遍都是70%?但是确实是,这个点我没去了解过。虽然我后面要做上下文管理的服务
- Kiana_Kaslana2026-09-0417569
- hackclaw2026-09-049861


