• denovochen

    给客户现场部署模型,3.5 122b太拉了,根本不读skill,十分弱智,人讨论后先换3.8 27B, 我想知道还有更好的选择么

    主楼
  • zl9902870971

    qwen3.8 27确实是最好的选择了

    #1
  • n3shelter365

    huggingface.co

    图片

    Qwen/Qwen3.8-Flash-Next · Hugging Face

    We’re on a journey to advance and democratize artificial intelligence through open source and open science.

    #2
  • 宫野志保

    strata部署qwen 3.8 flash next更好吧,激进点DeepSeek v4.1 也可以

    #3
  • jason.lu

    你确定是192gb显存,估计可以试试deepseek,用不了没事,可以试qwen3.8-flash-next,那个肯定行

    #4
  • 幻风Richi

    建议用Qwen3.8-Flash-Next,虽然IQ和qwen3.8 27B差不多,但Qwen3.8-Flash-Next是moe,速度更快

    #5
  • denovochen

    佬不好意思是4张L20的卡,也能搞把?刚给我打电话听错了。 问gpt说可以,实际体验 得问问 佬们

    #6
  • denovochen

    佬不好意思是4张L20的卡,也能搞把?

    #7
  • n3shelter365

    绰绰有余了 速度应该会很好

    这个模型很多人用strata 16显存 64g内存跑都不错

    #8
  • 栗子

    为什么选择ds v4.1 f就是激进了?我看好多部署都是用qwen或者minimax的,好像用dsv4.1的好像并不多。

    #9
  • n3shelter365

    因为ds4.1flash很大,就算192g显存也未必跑得起来或者很勉强

    #10
  • yisqiu

    我这边预算有限准备本地部署一张或两张L20卡能跑吗?主要是知识库问答(用户量也不是很多),准备用Qwen3.8-Flash-Next或者qwen3.8 27B

    #11

发表回复

登录后回复