• ZeusFunk

    本地推理,选DGX Spark * 2 还是等 Macstudio M5 Ultral 256g

    DGX Spark * 2 约等于 ^-^6w5

    Macstudio M5 Ultral 256g 约等于 ^-^7w(原价能买到的话)

    只本地推理,最近的dv4f、glm5.3f、qwen3.8f 应该都能跑

    M5 Ultral 好处在于1.2T的巨大带宽,但生态弱

    DGX Spark 只有400g带宽,但生态强

    佬们说说想法 ^-^ ^-^ ^-^

    - DGX

    - MAC

    0
    投票人

    主楼
  • ZeusFunk

    补充 DGX Spark 双机互联 带宽会进一步削弱

    #1
  • Vastzhang

    ^-^两台DGX SPARK路过,这个机器跑dsv4f,社区优化很好了,coding场景在50 tok/s+速度,GLM5.3f和Qwen3.8f用的MIA的方案,很多针对SM121的算子还没实现,效果跑起来比dsv4f差,没达到这台机器的性能上限,估计得再等两个星期。

    从M5 max的实测来看,果子技术生态还很差,长上下文下衰减很厉害,M5 U目前不看好 ^-^

    #2
  • edmond_XU

    肯定DGX。m5 ultra是m5 max的双拼版。带宽是大,但是响应速度呢?

    #3
  • ZeusFunk

    图片

    已购DGX

    #4

发表回复

登录后回复