• ironfish

    让 Claude 做了一个工具,主要是用我自己的实际情况来做测试总结,找到什么时候压缩是比较便宜的.当然,这也需要考虑到实际情况,因为压缩毕竟会对上下文的内容有一定的损耗.

    可以看出来,最便宜的大致上下文长度都还是比较短的,基本上做不成一个任务,所以只能说取一个平衡.我自己现在是设置到390k自动压缩(实际就是360k左右就压缩了)

    图片

    图片

    主楼
  • GreatMOLA

    缓存过期之后压缩最省钱,Claude 缓存读取是免费的。

    #1
  • chm777

    订阅吗?claude订阅的话,不压缩大概是最省钱的,claude订阅缓存命中的价格几乎免费

    #2
  • chris

    现在收费了。

    缓存几乎免费的时候 5h 额度我干到过 140 多。现在无论怎么样都超不过 50。

    以前是缓存写巨贵,缓存读几乎免费。

    图片

    图片

    #3
  • ironfish

    为啥我从4月份开始用就记得都是读取要收钱来着…

    #4
  • GreatMOLA

    我也记不得了,之前也是在站内看到其他佬友说的缓存命中不收钱。

    我现在的节奏就是:完成一个任务之后压缩、时间过很久了再回到窗口之后压缩。

    #5
  • polaris

    应该缓存过期之前压缩省钱吧

    1小时后的压缩需要重新建立无缓输入,成本很高的

    #6
  • seabrid

    佬这个工具的提示词是啥啊?我也想 doctor 一下自己的用量

    #7
  • Zephyr

    为啥我看压缩额度基本不变?

    #8
  • Atoz_03

    我感觉压缩不是算一次长上下文请求,而是单独本地压缩一样,然后把压缩后的算重建缓存

    #9
  • Zephyr

    是这样的吧,我感觉本地压缩有点像是算法实现的,而不是模型(?

    #10
  • ironfish

    这个我存疑…我原本也以为是如此,但是实际看ccswitch的token消耗貌似不是这样

    #11
  • ironfish

    对,我有这种体验,所以一旦超过ttl,我都是压缩优先(除非上下文过短,那直接用算了,因为压缩后启动等于一次全新会话注入,也要60k左右)

    #12
  • reboot

    使用 http://localhost:8787/__bili/ 压缩最省钱

    #13
  • ironfish
  • reboot

    他这个压缩思想我觉得后面会内化到模型里面的 用起来确实还行 我的长期会话用了一个月了

    #15
  • polaris

    可能是sonnet或opus,输入价格不高?

    之前max5x一个600K上下文的fable对话,一次隔夜压缩烧了10%的5小时限额

    #16
  • Zephyr

    可能是sonnet或opus,输入价格不高?

    有可能是,毕竟input才5$,cache确实是不计费

    #17

发表回复

登录后回复