小黄 - lao1 me - 年轻人社区

RTX3080 20G部署qwen3.8-flash-next-iq2_xs热
晚点我去试试，谢谢佬友的科普哇～
重度粉毛厨3天前AI14fromxiaobai
AI
RTX3080 20G部署qwen3.8-flash-next-iq2_xs热
我看Codex直接给我用llama跑的？这是啥另外一种部署方式是吗？
重度粉毛厨3天前AI14fromxiaobai
AI
RTX3080 20G部署qwen3.8-flash-next-iq2_xs热
![图片](https://cdn3.ldstatic.com/original/3X/e/4/e415f72201d585ac7ccc869a334048006d2b6b9d.png?v=15) 害，这卡的cuda就6144，凑合能用
重度粉毛厨3天前AI14fromxiaobai
AI
RTX3080 20G部署qwen3.8-flash-next-iq2_xs热
原来如此！昨天看了，都在显存的话，速度28 token/s ~ 35 token/s 体验还不赖呢
重度粉毛厨3天前AI14fromxiaobai
AI
RTX3080 20G部署qwen3.8-flash-next-iq2_xs热
哇靠？ 20G就能部署iq2？那我这96G显存，昨天跑了iq4占用70多G的显存，是有什么优化方案吗？
重度粉毛厨3天前AI14fromxiaobai
AI
AI 发展太快了，我敢断言不出 4 个月，全世界就将
明天去UC报道上班，哦，明天中秋，节后去吧
方长2026-09-24AI8XyTT2N2bTc
AI