• YOLO

    我使用open code go通过CC switch路由到claud code, 发现缓存命中有问题。

    在使用DeepSeek v4 flash的模型的时候,切换不同的模型时发现对应到sonnet这个模型的模型缓存命中还可以,几乎第2句请求就可以大部分命中,而对于其他模型,像对应到opus和fable的,经常出现大面积不命中,只命中几千tokens。

    图片

    图片

    图片

    我在全部换成使用ox-alpha,似乎也有这样的问题,但相对好一些,会出现连续命中。

    图片

    图片

    图片

    然后我切换到DeepSeek官网的API的时候就没有任何问题,任何地方都是正常的,所有会话新开的第一句都是全量输入,第二句就开始命中了。

    图片

    有佬友遇到过吗,这个问题什么原因,困惑了。

    补充(opencode go官方给的这两个模型都是completion协议,是要开启路由的。)

    个人怀疑问题出在路由层面,但是最让我奇怪的是为什么sonnet没有问题,其他都有问题,以及路由会多一个haiku的信息又是什么

    主楼
  • sce

    我用CPA+opencode go api+claude cli缓存正常 ^-^

    #1
  • leon

    这个换成命中的数据是cc switch的,还是官方的

    #2
  • YOLO

    ccswitch的,但是对比到官方的金额是对的,除以2.除了ox alpha的

    #3
  • 阿珂

    opencode go的deepseek-v4-flash支持messages,不用开路由。

    ccs的url用/zen/go,认证字段用api_key。

    #4
  • YOLO

    可以,cpa主要没怎么试过,本地反代吗。这个对不容易触发风控吧,我看gemini很多人不推荐反代agy,然后我懒就没试过cpa

    #5
  • YOLO

    好的,我抽时间试试。但是他这官方太懒了吧,只给说个completions。我之前codex直连上过一次,当时都没在意,应该是三种协议都可以感觉,官方只说了competions。

    #6
  • sce

    我主要自己做聚合,然后切号方便吧,claude cli只需要填写我的cpa的链接和密钥,有需要换模型直接 /model 切换就行,CCswitch我用过,但是发现作用和cpa有些重复,然后在一个新的设备上又要重新配置会很麻烦就删了

    #7
  • 未羽_姬

    claude code不是接其他模型经常都有缓存问题吗……

    #8
  • YOLO

    聚合确实可以,感谢佬友建议,抽时间试试,不是本地反代?我其实不太愿意多花钱搞反代。设备也不多,主要随便用用。最主要对cpa或者什么sub2api之类的不太了解

    #9
  • AkaChou

    opencode go 如果使用 chat 协议是不会处理中间的提醒类系统提示词的,这就导致缓存会在出现提醒类系统提示词时出现缓存失效问题,而中间的系统提示词只会在 claude code 里有,所以换 codex 命中就会上去了

    #10

发表回复

登录后回复