16G内存本地部署大模型有什么推荐的吗

16G 还跑什么大模型啊。而且是内存。

这个配置下，你是怎么有部署本地模型想法的？

哪怕是代替网络搜索……也不一定是写代码

部署个8b的搞个翻译还行，写代码别想了吧 ^-^

配置低了些啊，小体量模型没啥意义

qwen2.5 1.5b，这个你可以使用一下，不过基本啥也干不了，你这个配置太低了

起码也得说CPU型号吧，16运行内存啥都干不了

你这可不是16G，

系统4G，使用4G，只剩8G

还只有cpu only

没多大价值，最多翻译了

embedding,这个应该可以

目前就开机的系统大概就会占用4g以上吧！加点自启动软件差不多8g！应该是部署不了什么的了

你成功的把我逗笑了，建议你使用人肉大模型。

虽然社区准则是 真诚、友善、团结、专业。我也一直恪守。

但是看到这种帖子还是不免想骂娘。

你是 16G M5 macOS 还差不多

当然你能说出 没显卡这种话 我也就只剩三个字了 __ __ __

顶多能部署12B的模型，但2026年的今天你想用它来写代码实属天方夜谭。如果真能写代码的话，你打开L站首页早就是大家在讨论哪个12B模型写代码好使了

16G没显卡，大概率是没有啥能推荐的

不过佬可以打开下面这个网站看一下是否有能带的动的，不过能部署不代表能流畅使用

CanIRun.ai

CanIRun.ai — Can your machine run AI models?

Detect your hardware and find out which AI models you can run locally. GPU, CPU, and RAM analysis in your browser.

qwen3.5 8b，开64k上下文试过了还不错^-^^-^^-^

qwen3.5 9B试试，只有内存的话，推理速度很慢

gemma的2b模型本地各种杂活用用