• lele2023

    质量尽可能好,速度尽可能快。我只是想尝鲜 ^-^

    主楼
  • heishuitaot-nodeseek

    蹲一个

    #1
  • dtfour09

    7b 或者你内存足够的话 可以 显卡 + 内存 部署27b的千问3.8

    但是上下文不能太长了。

    #2
  • 暴躁青年

    7b吧

    #3
  • Totoria-nodeseek

    估计可以部署一些8b的弱智小模型

    #4
  • Sheena99

    之前我也部署过本地模型…折腾下来简直就是浪费时间,说流口水都是夸了 ^-^

    #5
  • nodeisle

    可以让你的gpt6.0做方案和审核, 小模型干活 用dsh

    #6
  • kevin77

    从最小的开始试

    #7
  • SedarStar

    很小,尽量要提升配置,然后玩大一点的吧

    #8
  • Multy

    好强,但是应该作用不大

    #9

发表回复

登录后回复