中转站的缓存命中都去哪了？

如图，正在做一个精简的Claude Code个性化状态栏。

途中，为了改缓存命中图标的显示问题，在Claude Code里需要测试不同的缓存阈值。

根据缓存命中率的不同，图标会有颜色、明暗、粗细的变化。

阈值分别为0-49%、50–79%、80–100%

没想到这个小任务会频频卡在缓存命中率的测试上

测试模型：Sonnet 5

第一位选手：https://api.teamorouter.cn

上下文占用率5%的情况下，出现奇奇怪怪的上下文理解，像是把我最开始聊的都忘掉了。

但这不是问题。

问题在于，缓存总是在50%-67%这里卡着。

奇怪的问题是：这家我早上也用来测过一次，那时命中率是能达到90%。短短一个下午发生了什么，是一个谜题。

第二位选手：https://www.cun.ai/

先不说为什么5句话的sonnet花了8块钱人民币这个事情（这家是1:7充值）

你这个Sonnet模型，咋那么喜欢用这个^-^表情呢？

这时候，固定50%的缓存命中甚至只是小问题。

第三位选手：https://soleapi.com

^-^让我们为这位缓存命中在今天下午首次达到80%的中转站鼓掌。

PS：这家是三家里唯一让我感觉使用上Claude的一位。

以上，一个小测试。

在这里，建议大家，决定使用中转站之前，用5句话测试一下缓存命中率十分必要。

合格的缓存命中，是能为你节省90%的开销的（可以让GPT确认加深你的印象）。

不合格的，5句话，大概60个字的Sonnet 5，是要花8块钱的。

→是3句话，搞错了，气晕了

你的中转站缓存命中多少？

- 0-50%

- 50-80%

- 80以上

- 我不用中转站

0
投票人