• cal

    有没有熟悉中转站的给一些建议?肯定是要合规、合法、长期。

    主楼
  • 111zaka

    这两个可以都做,硬要说的话。

    1.国外模型搬运到国内来需求更大,现在最强最sota还是在美国那边,由于国内进口的限制,催生一大批中转站。

    2.当然你可以搬运国外部署的高速开源国模,国内非常缺算力。deepseek还有GLM都无法做到高速tps,而国外是不缺算力卡的,第三方部署的GLM比官方部署的都快。

    下面是ai供应商速度榜单。国外部署deepseek的比官方都快。(如果你能低价搞到应该也有市场)

    LLM API Providers Leaderboard - Comparison of over 500 AI Model endpoints

    图片

    #1
  • Sinohunk

    不是所有工作都必须要高级模型,企业也是要考虑成本的,看一下OpenRouter调用榜单,能看出一点问题

    #2
  • mango-linuxdo

    中转站本来就是灰色地带,GPT 跟 Claude 本身就锁国区的,何谈合规合法。。

    #3
  • 傲月残云

    感觉AI的应用是分场景的,比如开发端,应用端,对比国内或者国外的企业,使用开发端完成开发后,后续的应用端是主要成本,而且对智力要求会降低,此事国模的量大管饱是一个很好的降本增效的选择。

    #4
  • Sonice

    国内没卡算力就是个问题,而且国内就是开源模型,国外有卡的自己也能部署吧。。

    #5
  • Megasoft

    要说合规合法,那肯定是中国模型卖给海外啊,国外模型闭源,怎么做算法备案

    #6
  • yosefzg

    涨见识了,我还以为打折的国模都产自国内。

    #7

发表回复

登录后回复