• 人工智障

    上上周看还只有3W7,到上周末就要4W了,这上涨的速度,还炒什么股,买什么黄金呀,直接梭哈AI硬件就行啦,不过对于我都不重要拉,两台DGX SPARK GB10,串联可以流畅跑deepseek-v4-flash-0731,token以后可以管饱了,搭配我的Agent,智能可以无限了,哦耶!!!

    图片

    图片

    图片

    主楼
  • 莫莫

    想知道真实的使用体验,跟官方的API调用有什么区别。

    期待佬的测评

    #1
  • ShawnWeasley

    细说实用体验,能支持几个并发,用的什么量化和推理框架

    #2
  • xiaomin_chen

    效果真能这么好吗?表示怀疑

    #3
  • Dark_iaji

    这玩意真能用回本吗?4W*2,commandcode 十美刀套餐,这能让我蹬到世界毁灭吧。 ^-^

    #4
  • unnamedfish

    期待有个完整的成本对比,就和官key比,不要和其他比

    #5
  • 人工智障

    在买之前就通过租用线上的裸机测试过了,速度肯定没有官方的快,但质量没区别,不要考虑团队使用,两路并发50tks,个人使用完全够用了。

    #6
  • Gush

    能跑多大模型~

    #7
  • 人工智障

    vllm、官方权重无需二次量化

    #8
  • 人工智障

    除了速度差点,其他都一样

    #9
  • 人工智障

    真的,不用怀疑

    #10
  • Gesture

    额,这个,佬开心就好,嗯嗯,小花送上

    #11
  • AbLee

    恭喜佬!期待佬的使用体验 ^-^

    #12
  • Pokeman

    这么猛的吗,这不得直接token自由

    #13
  • 人工智障

    满血的deepseek-v4-flash-0731

    #14
  • 人工智障

    你这还处于脱贫攻坚的时期呀,要加油啊

    #15
  • 人工智障

    就是为了token自由,for freedom!!!

    #16
  • 我心永恒

    这个体验很差,解码能力,显存带宽被 RTX pro 6000 吊打,上下文长了之后非常需要很强的 prefill

    还有就是并发,多 agent 的情况

    以及 api 的设计,DeepSeek 这方面并没有开源

    两台 dgx 只能跑量化模型,量化模型最大的问题不是能力问题,而是长上下文下稳定性问题

    #17
  • zimjin-linuxdo

    期待后续出个测评,8W 的硬件,我自己还是下不去手

    #18
  • liu-linuxdo

    我是不急的,再等个5年,说不定人类都free了

    #19

发表回复

登录后回复