- bookandcode2026-08-19
魔改的 RTX3080 20G显存， 跑的 Qwen 3.8 27B 100K, 速度只能跑到50tps/s
第一遍跑的效果没法看，改了两轮效果还凑合，感觉以后真的可以本地跑代码啦
主楼 - 佬友记2026-08-19
效果可以的，要token自由了 ^-^
- bookandcode2026-08-19
唯一不好的就是有点慢，只能丢那让它自己跑
- yous1r2026-08-19
（帖子已被作者删除）
- hhh2026-08-19
佬，请问可以参考一下配置吗，我用vllm部署的速度超慢