帖子

  • JieMa

    图片

    主楼
  • 村口谢霆锋

    体感正常的话应该对吧,不是新上了cerebras的芯片来着

    #1
  • mozilla

    测一下多模态和glitch token

    #2
  • YaLei_Li

    是否价的不确认,我用的自己的账号反代,从来都没这么快过,

    图片

    #3
  • JieMa

    测一下多模态和glitch token

    佬,怎么测,

    太快了,心里有点慌

    #4
  • lilingfeng

    如果是 codex 没这么快 如果说是灰度到 Cerebras 那就不可能这么慢 至少是 900 TPS 起步

    如果真要说的话 这应该是 API 模式下的 fast

    Codex 最近的速度都是 30~70 死慢的

    #5
  • xiangyuejiu

    99.9%假,官方的开fast模式都没这么快,你这最高的都200多了。

    除非中转站有oai内部渠道,特快速度,还不收你fast的钱 ^-^

    可以测一测juice值作为参考

    #6
  • 村口谢霆锋

    是灰度到 Cerebras

    不太清楚,5.6发布前夕偶尔会有100多/s的,现在也是基本几十了

    #7
  • lalala_1

    没用过这么快的,5.6不是大家公认的想得太多很慢吗,害怕。什么价格的啊

    #8
  • JieMa

    图片

    #9
  • 七英清

    这个是什么反代工具?可以看这么详细的吗

    #10
  • 叶秋寒

    pro20x 海外服务器直连都没这么快

    图片

    佬友这种目测是量化精度不高的自部署大模型的速度,那个确实很快。我在其他家使用过glm5.2用起来确实跟这个差不多速度 可能比这个还慢一点

    #11
  • 不知所以的人(可以叫我188大佬)

    正常。我这边认识的上游出来的平均速度就是119(我看sub2api的记录的。)

    实际看用户的日志大概178的都有

    #12
  • dragon_from_east

    这个是newapi吗?还是SUB2API啊大佬

    #13
  • YaLei_Li

    贴图的程序是ccload,你github搜索一下就有了。。

    #14

发表回复

登录后回复