佬们 想搭一个中转站 大概50-70个人用，中转站瓶颈是带宽吗

瓶颈肯定不是带宽啊，你就用一个垃圾国外 vps 带宽 1G 完全够了，并且通过 API 发送也不会占用太多带宽吧

cpu，还有客源，维护，现在不好做了

一到高峰期就很卡，我也在研究是不是我用这种frp 内网穿透的问题，现在限速是48mbps

平均延迟20s 对比正规中转站 是不是太慢了

多模态模型中转，100人内50Mbps够了，除非错误率特别高，客户端一直重试会占带宽。

看下高峰期服务器的资源占用情况，然后再进一步分析，不排除 frp 环境的原因，48mbps 不低了

有的时候发个hello都要两分钟回复 但是本地直连new api端口回复很快

20s不行啊，我是1-5s最多，偶尔6-9s

^-^是的 在高峰期 来说有点太慢了 本地用很快 穿透出去就很慢

有收益就上大厂大机器就是了，不用犹豫

请教一下，佬怎么选机子的 有没有推荐的

佬什么用量，介意拼车吗？？？？ ^-^

我无脑推荐aws，去隔壁吧，那边专门搞机器的

aws

我也不知道 看到有个阿里云免费试用不知道性能咋样 第一次搞 ^-^

我是自己开了一个Pro 20x，还有几个其他的便宜套餐，但是偶尔会用中转，如果单独中转的话，我估计一个月100块左右吧

20s嘛 这么夸张？ 48mbps 正常肯定够了 看看frp 日志有没有连接重置、超时、资源不足 排查一下问题吧

流式不应该主要看首字延迟吗？上下文短的时候首字1s以内都不算很慢吧？

是这样 高峰期首字夸张的能2分钟 ^-^