• yurku123

    各位佬,我目前用的中转站的倍率最低标的是0.04,但自己用起来感觉像是0.15样,用的特别快,近二十四小时的token用量是:总 Token:50.82M,输入: 14.52M,输出: 385.27K

    ,缓存: 35.91M,总共用了4.83,我让gpt计算下来是0.09478 元/百万 Token。充值倍率1:1,看了下缓存最高只有七十四,价格设置如下图所示:

    图片

    我也不知道是不是自己计算错误,所以想问下各位佬这个倍率是否真实(我不是推销,就是感觉用的太快了,钱烧不住)。

    主楼
  • WWT

    丢给AI算一下详细的

    以及看一下充值倍率 币种 还有什么缓存读取之类的

    而且0.04有点低了吧 我看好像都是0.08什么的 很久没用了,具体的不知道

    #1
  • 哈鳄鱼皮

    缓存有点低啊,而且004成本都不够吧,包掺水的。倍率倒不至于给你造假,只是你缓存率才70%就贵了。

    #2
  • Angel

    我也不知道是不是自己计算错误,所以想问下各位佬这个倍率是否真实(我不是推销,就是感觉用的太快了,钱烧不住)。

    主要得看他的原价是怎么设置的^-^^-^^-^

    #3
  • yurku123

    确实看了下,缓存率最高就只有百分之七十四左右

    #4
  • WWT

    那就是中大奖了

    估计要么就掺水了,要么就是号池不稳定 反复切号 可以拿去检测一波 看看是真货还是假货^-^

    #5
  • 爱长草的云

    不止是看倍率,还要看模型价格,重点关注缓存价格,有的可能输入输出一样,缓存却不一样,如果价格没问题,那就看缓存命中率咋样,命中率低的情况下最终消耗的额度也会相对偏高

    #6
  • lanvent

    sol价格 5/30,黑心中转一般272k以上翻倍,价格计算方式什么都有,你自己算一遍就知道什么倍率了。

    倍率和缓存命中率是正交的东西,倍率低但缓存命中率拉胯照样能把花费拉高,尤其那种动不动0缓存的。

    看到了新加的图片,居然还有缓存写,出现了这个东西,自己就手动把倍率乘个2.5倍吧,可能还打不住。

    #7
  • yurku123

    可能正如佬说的,不稳定,然后反复切号,缓存就特别低

    #8
  • yurku123

    最高只有七十四,有时候只有五十多,大部分维持在七十左右

    #9
  • yurku123

    佬,官方是没有缓存写这个说法的吗

    #10
  • lanvent

    官方有这个定价,但是如果是号池反代,cache_write_tokens基本都是0。

    可以看看请求记录里有没有缓存写的tokens数量。

    #11
  • 爱长草的云

    那确实太低了,之前遇到缓存率低的情况,但是大部分时候还是90以上只是偶尔掉缓存,这种说法是上游切号比如号池轮询会导致丢缓存,但是也只会偶尔触发,如果缓存一直保持只有70多,那上游大概率是有问题的,要不是哪里配置的不对,或者渠道是2api之类的。

    #12
  • yurku123

    我看单条请求下没有缓存写,应该没触发

    #13
  • yurku123

    佬,请问下0.06的92缓存和0.04的70缓存,哪个方案更优一些

    #14
  • 爱长草的云

    0.06的92缓存,上下文越长越明显

    #15
  • lanvent

    你的问题就是缓存命中率太低了。 未命中缓存的输入价格是10倍缓存命中的价格。

    #16
  • 宁_河图

    中转站百科第一集:什么是中转站,倍率是什么(科普贴) - 开发调优 - LINUX DO

    这里有,可以让ai根据这个内容帮你进行计算

    #17
  • yurku123

    谢谢佬,我去看下怎么计算的,0.04用起来像0.1一样

    #18

发表回复

登录后回复