有没有老哥现身说法，DGX spark的优缺点

只能部署小模型玩。上点体量就跟便秘一样了。视频和图片也还行。没那么神，但是只要不复杂的也还行。

缺点就是带宽比较低。。。优点就是小巧，不用搞一堆服务器

视频、图片

就看5090 32g能不能装下了，5090内存带宽1.8TB/s, Spark 270GB/s，要是5090能装下，就比spark快很多

5090还得换新电源，搞竖装的东西，下来将近3.7w了

老哥有没有试过qwen3.8 27b，跑起来怎么样

4090 48g？ ^-^

有钱人的世界我不懂

很好奇，这东西不全是缺点么，竟然还有优点？

显存大，拎包入住，不需要再去折腾其他配件 ^-^

缺点: 带宽小，原生支持的精度有限，有些模型跑不动

优点: 功耗低，体积小，噪音小，生态好，不折腾

只能当个大玩具用

生产力的话，有这俩选择我觉得现阶段很合适的

如果偏NV生态，不如4090 48G魔改(目前价格单卡2.8W一年质保

如果不需要nv生态，可以看看AMD MI210 64G(新卡1.8W一年质保

并且MI210原生支持桥

这里面MI210非常适合跑qwen 3.8 27b，但v4f效果很差

4090 48G的缺点就是跑大模型需要多卡，但哪怕PCIE互联的带宽应该也比SPARK好吧

大归大，但是带宽太低了，玩玩可能还行，真的用太难了

这个是魔改的吗 48g？ 用起来怎么样

4090的话电源1000w可以吗？魔改版有没有脱焊风险 确实这个也很不错

4090 48G用起来没问题，架构也是比较新的一档，找个带质保的店买就行了

这种卡说白了怕别买，买别怕

单卡TDP450W，单卡应该要850W以上的供电

27b Q4KM，35-40tps，256k上下文快满时大概15t/s,moe的话估计dgx多台串联能好一点，现在挺慢的，达不到工作效率

主要是跑27b其实显存占用也不低，特别是超过256K的情况下，32G可能不够用

但是dgx spark速度又太慢

不考虑多卡的话也许4090是个好选择

(还能打游戏 ^-^）

速度慢到底是慢到什么程度？50tk？不会比这个还低吧

要不等等rubin版本的DGX呢

50token/s很高了好吧

dgx显存带宽才300g多

所以比50还低？？？不至于吧，这就有点啦了