• taoyu

    我们是做计算生物学的实验室,最近准备再采购一台 GPU 服务器,有点迷糊,所以想来问问大家。

    目前实验室已经有一台 GPU 服务器:

    超微 SYS-4029GP-TRT2

    - CPU:Xeon Silver 4210

    - 内存:512G

    - GPU:4×3090 + NVLink,另外还有 4×4080 Super 32G 涡扇版

    - 固态:20T

    - 机械硬盘:40T

    现在的问题是 3090 和 4080S 混插以后,4080S 老是掉线。所以我们想干脆再弄一台服务器,把现在的4080S、部分内存和硬盘放新机器中,希望最低成本解决这个问题。


    目前大概有下面几个方案:

    1、自己攒一台和现在一样的超微 SYS-4029GP-TRT2

    淘宝/闲鱼找二手拆机件,机头 + CPU 自己组。粗略算了一下,大概 1W 左右。

    问题就是基本没什么靠谱的质保和售后。真出什么问题估计是我来背锅负责了。


    2、H3C R5300 G5 + Xeon Silver 4309Y

    这是之前合作过几次的供应商给我们的方案。

    4U 8卡服务器:H3C R5300 G5 + Intel Xeon Silver 4309Y

    无内存硬盘,对方报价二手拆机 2.5W 左右,全新 3.5W。二手的只有三个月质保,后续有一些基础售后支持。

    我一开始跟他说我们老服务器二手大概八千块,他就觉得对方报价二手咋还这么贵,而且觉得质保时间太短了,担心真的有问题,又得扯皮啥的。另外说不认识这个什么新华三厂商,只听过浪潮、DELL啥的。

    另外这个CPU对方报价1600一颗,我们自己淘宝搜大概700,都是二手拆机件啊,不知道能不能这么算。

    主要是我们自己不太懂企业服务器二手市场,导师也比较担心这里面的水。


    3、愙墨 AS4208 8 卡服务器, 2.5W

    京东上还找到一个叫 愙墨 AS4208 的,好像是国内集成商做的。

    看介绍用的是 华硕 ESC8000 G4 机箱/平台,4U 8卡服务器。

    报价大概 2.5W,写的三年质保。带基本的32G内存和500G的固态硬盘啥的。

    但是我们对这个牌子/集成商完全不了解,不知道这种机器靠不靠谱,所谓的三年质保实际能做到什么程度也不清楚。


    4、同一家集成商的全新 4 卡服务器

    如果我们只考虑目前这 4 张 4080S,其实也不一定非要买 8 卡服务器。同一家还有全新的 4 卡服务器,1W 出头。


    5、全新 H3C R4900 G5

    H3C R4900 G5,单机头 1.4W


    所以现在比较纠结。

    想请教一下熟悉服务器、AI 服务器或者实验室集群的佬们:

    这种情况下大家会怎么选?

    另外也想问几个比较小白的问题:

    - 这些价格正常吗?还有没有其他方案?毕竟不是专业的思路可能存在局限性…

    - 到底是混插的问题还是什么问题导致卡老是掉,体现在CUDA中只识别到7张卡,得重启交换一下卡的位置可能就恢复了,但是过了一段时间又掉线,发过去检测也没啥硬件问题?

    - 售后服务一般要注意哪些地方?

    - 这种国内集成商的 4U GPU 服务器靠谱吗?三年质保实际有没有意义?

    我们自己毕竟不是专业搞服务器运维的,如果有哪里理解错了,也欢迎大家直接指出来。

    主楼
  • hopers

    我不太了解行情和攒机,这两万预算真能淘出这配置吗?怎么操作,怎么淘宝,请务必发后续给我学习下

    #1
  • 小太阳

    4 张 4080 的卡,1w 出头? 我没有看错吧。

    #2
  • 小太阳

    大佬,你是不是少打了一个 0 喔。2 万,准系统的 gpu 服务器?

    #3
  • taoyu

    没有呀,可能我的文字描述不太准确?

    内存硬盘显卡这些硬件我们都有,我们现在只缺平台,来放这些卡,类似于2w买个带CPU的服务器机箱

    #4
  • ZackWill

    愙墨体感上不太行,我们实验室采购服务器是我负责的,最开始谈好了供应商,但学校规定超过特定金额就需要走招投标流程,在招投标过程中突然冒出来一家叫深圳图灵的供应商低价拿到了标,提供的就是愙墨的服务器。

    一是机器本身不知道是尺寸问题还是给的导轨问题,当时上架标准机柜总是宽一点塞不进去,最后卸掉两侧用来覆盖线材的金属片才勉强放进去

    二是售后客服在有些问题上他们也解决不了,例如服务器本身的卡兼容性等等出过问题。当然也有可能我们插的扩展卡本身比较偏门导致的(

    #5
  • fcten

    大概率是电源带不动或者散热不行吧,是不是一般在多卡满载的时候触发?可以先排查下。如果自己不太懂可以等掉卡的时候让 AI 排查,一般驱动会有错误日志。

    #6
  • taoyu

    谢谢!

    确实在京东上搜索就是这家店提供的服务器价格最低,就比较担心会不会在某些地方偷工减料,毕竟差了将近一两万 ^-^

    那可能还是得放弃这种方案了,担心一坑坑个大的,不敢背锅啊

    #7
  • ZackWill

    有预算的情况下还是尽量找一些大品牌,加上微信把需求报过去让他们出方案吧,我们后续的服务器是对接浪潮去买的,虽然中间学校流程卡了一阵,但是后续服务和机器上架体验都还不错。

    #8
  • taoyu

    我们猜测也是这样,但是一直不知道具体怎么解决。

    以前买的3090比这个4080长一截,8卡插满之后间隔非常紧,涡扇版的4080风扇又在正面,侧面又没有进风口,一有负载就直接飙到80多度了,正常3090才70度不到。

    现在先用钞能力解决一下下吧,以后可能会按照这种思路来解决,主要是懒,毕竟有售后支持,自己也就不想管这些,太麻烦啦。

    #9
  • taoyu

    ^-^主要是不知道导师到底还剩多少经费,最开始查二手价格给他心理预期拉太低了,不敢花太多钱,还没转变过来观念,给他猛猛省钱,累的是自己。财小气细的后果。而且这个经销商报价属于是熟人坑一半,以后还有采购需求可能考虑换厂家来弄了,但希望未来几年不要有了= =我要提桶毕业跑路。

    #10
  • bigebigebi

    不要想着为实验室省钱,采购一定要走正规渠道,你们导师不差这点。否则一旦出现任何问题,你都是千古罪人。

    #11
  • 马哥-扫地僧

    省钱的生意不好做啊

    #12
  • taoyu

    图片

    导处于穷富二象性,大多数时候穷,搞得我也从这方面出发考虑预算了。也不知道他的经费运转是怎么样的,没研究过这些。

    4月份的时候采购的这些卡,当时对面报价

    4090 48G涡扇版 29400,4090D 48G 涡扇版 2.6万, 4080s,1.2万。

    我们想着可能用的人多,相同预算我们就买了4张4080s。

    #13
  • shanewoo

    4、同一家集成商的全新 4 卡服务器

    如果我们只考虑目前这 4 张 4080S,其实也不一定非要买 8 卡服务器。同一家还有全新的 4 卡服务器,1W 出头。

    4、同一家集成商的全新 4 卡服务器

    如果我们只考虑目前这 4 张 4080S,其实也不一定非要买 8 卡服务器。同一家还有全新的 4 卡服务器,1W 出头。

    这个就好了。售后也在,又能满足这 4 张 4080S,还不用花那么多钱

    #14
  • 马哥-扫地僧

    4月份 4080 1.2W 大钱都花了 干嘛在小钱上纠结

    #15

发表回复

登录后回复