- 🛡️Rice_R._Rug_💛🍋⭐️💫2026-08-17
刚刷到的一个帖子
不同的设备的输出速度对比
主楼 - xquan2026-08-17
我试了4090大概是64.5 tok/sn
- 🛡️Rice_R._Rug_💛🍋⭐️💫2026-08-17
大模型的能力，体感上，有很强吗？
- jxxxxi2026-08-17
我的4090使用llamacpp不加载mmproj速度79.78 t/s
- xquan2026-08-17
还可以，有准确的prompt下效果挺不错的
- 皮卡克利波2026-08-17
4090这一类上下文能达到多少 有128k么
- xquan2026-08-17
- 皮卡克利波2026-08-17
我了个去,你是两张…肯定可以跑256啊 ^-^
- wushi-linuxdo2026-08-17
佬友，你这套配置说个价格，让我死心 ^-^
