lao1 me
AI服务器日常推广公告
搜索
菜单
主题回帖收藏
  • qinbingchen
    问一个 toB 创业卡点,现在企业内网,能部署可用的模型么?有人实践过成本多大么?热
    实在不行,就看看能不能脱敏非安全数据走公网了,toB 这里一直是卡点。
    qinbingchen6天前日常25yingqi7
    日常
  • qinbingchen
    问一个 toB 创业卡点,现在企业内网,能部署可用的模型么?有人实践过成本多大么?热
    @kennylam777 我没指定 小模型没怎么玩过。就是先调研下大家,有没有私有化部署的经验案例
    qinbingchen6天前日常25yingqi7
    日常
  • qinbingchen
    问一个 toB 创业卡点,现在企业内网,能部署可用的模型么?有人实践过成本多大么?热
    @94 不是呀 哈哈哈 这么像
    qinbingchen6天前日常25yingqi7
    日常
  • qinbingchen
    问一个 toB 创业卡点,现在企业内网,能部署可用的模型么?有人实践过成本多大么?热
    @moonvstod 硬件预算不能太高了,不然这单没法做了,企业觉得都不划算啥的。5w 感觉都是顶了,能更便宜最好。而且能让企业并发来说几个人,还可以扛住。一般企业也就几百个人。
    qinbingchen6天前日常25yingqi7
    日常
  • qinbingchen
    问一个 toB 创业卡点,现在企业内网,能部署可用的模型么?有人实践过成本多大么?热
    @drupal 看起来,您这边是企业部署用上了。
    qinbingchen6天前日常25yingqi7
    日常
  • qinbingchen
    问一个 toB 创业卡点,现在企业内网,能部署可用的模型么?有人实践过成本多大么?热
    @twk93 大佬,就是中型企业 200 人规模的。 并发估计也不大,最多几个人。 您这边有实践么? 24G 跑 14B 的 Q4 。
    qinbingchen6天前日常25yingqi7
    日常
  • qinbingchen
    问一个 toB 创业卡点,现在企业内网,能部署可用的模型么?有人实践过成本多大么?热
    @defa21312 企业内部真实部署么?跑的起来的。 硬件成本感觉最多 3w 吧
    qinbingchen6天前日常25yingqi7
    日常
  • qinbingchen
    问一个 toB 创业卡点,现在企业内网,能部署可用的模型么?有人实践过成本多大么?热
    @kennylam777 R1 这都不是重点,就是内网部署,现在有没有能用的性价比的模型,企业实践过的,要是太贵了压根没人玩。
    qinbingchen6天前日常25yingqi7
    日常
qinbingchen
qinbingchen
Lv1 · lao1 0
TA的主题TA的回帖我的称号TA的收藏
提示