• 一个橙子pro

    之前在小黄鱼上找商家试用了两台超聚变的gb10机器,联机跑deepseekv4大约60tok,单机qwen 3.8 27b大约20-30tok。基本上只能单线使用,多agent tok速度下降严重。有没有佬自己也买了,说下感受。

    主楼
  • Grogu

    访存带宽是瓶颈,并发会带来拥堵

    图片

    #1
  • 凌风神舞

    这个产品定位有点尴尬, 诚如上面佬说的, 内存带宽是个大问题, 多台联机不会带来推理速度提升.

    想要高速推理, 可以看下M5 Ultra 或者 小米明年量产的AI cube.

    #2
  • qdd28

    …多少钱一台,项目是否必须本地模型,如果非必要得话,直接反代Gemini pro效果比你这个更好

    #3
  • GGBoy

    一般个人使用,没必要购买硬件,部署模型没有那么简单的。享受折腾的过程, 当我没说。

    #4

发表回复

登录后回复