- bigbean2332026-05-11
学生，有点闲钱，预算3000，需求如下：
- 搞点本地部署做边缘推理实验，例如vln,vla,端到端，全身跟踪，三维重建，issacgym sim2real之类的场景，主要是推理，我可以去租90系做训练
- 硬件平台准备了双PCIE的微星B760,12100,16g内存和850w电源
- 目前问grok下来3080是比较不错的选择，但感觉内存是不是少了点，60系大内存又感觉核心规模和1080没啥区别。
- 对二手产品，噪声水平没意见（我的主力机和副机大半都是二手凑起来的 ^-^）
求问各位佬友有无相关经验，恳请能指导一下。 ^-^ ^-^ ^-^
- 小背景：大一买的1080用了三年，跑过视觉模型训练也跑过1BLLM模型推理，年初飞升显卡星球，只能拿亮机卡顶着用，副机12500h modt平台拿32EU核显跑这些任务跑到内存爆满也不够用。最近看了点项目，论文啥的，感觉传统导航，传统规划，传统建图快被模型based的蹬烂了，只得硬着头皮去学这方面的东西 ^-^
主楼 - XYZliang2026-05-11
- apparition2026-05-11
- Tord2026-05-11
22G的2080TI吧，剩下的钱留着洗脚
- tiantiantian1232026-06-12
RL没那么吃显存，因为要和场景不停交互，CPU反而要好点
- bigbean2332026-06-15
理解佬友的说法，像关节运动，策略决策这些确实没有太多显存消耗，但是有些完整的管线会有挺多如图像处理到地图规划这类环节会用到卷积运算的，应该和深度学习一样要消耗大量内存吧
- 菜鸡rrr2026-06-15
RTX Pro 5000 72GB的很舒服，价格也比A100 80G便宜多了，拿来推理不错
- yosh200042026-06-15
推理比较吃显存带宽，找一个带宽高的卡比较好，例如h20这样的，当然和你的预算不符就是了
- tiantiantian1232026-06-15
是的，如果图像做输入那就很吃显存了，涉及到CV的都相对吃显存一些，可以买个显存大点的，看预算了，图像确实大建议16G显存朝上的吧
- bigbean2332026-06-16
我想了想，最终还是要对齐边缘设备的计算能力和精度的，主流的边缘计算平台普遍在16g左右（英伟达orin nx super， RK系列这些），反正只是推理，也许3060 12g就够了
- richard95272026-06-16
租一个吧，这点钱租一个最划算，5090一个小时就几块钱
- y15524018972026-06-16
支持的话直接上A100妥妥的够用了 ^-^
- bigbean2332026-06-16
训练肯定是租了，边缘平台搞推理，这么大传感器数据量走云端不太好吧 ^-^
- tiantiantian1232026-06-16
可以的，我之前自己配也是3060还是3060ti来着，显存是30系列里性价比很高的了，大不了就是batch设小点就行
- F1rstb100d2026-07-23
模型LoRa微调8b、13b的话有哪个比较推荐，比较吃显存、带宽、CPU还是内存？
目前看的2w多的L20改涡轮卡 / 4090 48G
5w左右的Pro 5000 / Pro 6000D
推荐选择哪个
- 简单人机2026-07-23
- xy32026-07-23
2080ti22g或者3080 20g