• cat8023
    Qwen38-27B 单机部署问题热
    得看是不是量化版本,再加上3.5-35B-a3b属于MOE,每次激活3B,而3.8 27B是全量激活,所以有这个差距应该是正常的,可以看看3.8的其他量化版本呢