• 873442759

    目前用的是限速带宽48mbps的某frp,感觉扛不住一个人多并发,高峰期很容易就模型响应超时

    主楼
  • 2021-momo

    瓶颈肯定不是带宽啊,你就用一个垃圾国外 vps 带宽 1G 完全够了,并且通过 API 发送也不会占用太多带宽吧

    #1
  • zqbx

    cpu,还有客源,维护,现在不好做了

    #2
  • 873442759

    图片

    一到高峰期就很卡,我也在研究是不是我用这种frp 内网穿透的问题,现在限速是48mbps

    #3
  • 873442759

    平均延迟20s 对比正规中转站 是不是太慢了

    #4
  • MU

    多模态模型中转,100人内50Mbps够了,除非错误率特别高,客户端一直重试会占带宽。

    #5
  • 2021-momo

    看下高峰期服务器的资源占用情况,然后再进一步分析,不排除 frp 环境的原因,48mbps 不低了

    #6
  • 873442759

    图片

    有的时候发个hello都要两分钟回复 但是本地直连new api端口回复很快

    #7
  • zqbx

    20s不行啊,我是1-5s最多,偶尔6-9s

    #8
  • 873442759

    ^-^是的 在高峰期 来说有点太慢了 本地用很快 穿透出去就很慢

    #9
  • zqbx

    有收益就上大厂大机器就是了,不用犹豫

    #10
  • 873442759

    请教一下,佬怎么选机子的 有没有推荐的

    #11
  • max

    建好了麻烦到时候可以滴滴一下,现在越大的中转越容易被风控。

    #12
  • zqbx

    佬什么用量,介意拼车吗???? ^-^

    #13
  • zqbx

    我无脑推荐aws,去隔壁吧,那边专门搞机器的

    #14
  • 873442759

    aws

    我也不知道 看到有个阿里云免费试用不知道性能咋样 第一次搞 ^-^

    图片

    #15
  • max

    我是自己开了一个Pro 20x,还有几个其他的便宜套餐,但是偶尔会用中转,如果单独中转的话,我估计一个月100块左右吧

    #16
  • fsdsyscxy

    20s嘛 这么夸张? 48mbps 正常肯定够了 看看frp 日志有没有连接重置、超时、资源不足 排查一下问题吧

    #17
  • soobir

    流式不应该主要看首字延迟吗?上下文短的时候首字1s以内都不算很慢吧?

    #18
  • 873442759

    是这样 高峰期首字夸张的能2分钟 ^-^

    #19

发表回复

登录后回复