16G内存本地部署大模型有什么推荐的吗

16G 还跑什么大模型啊。而且是内存。

这个配置下，你是怎么有部署本地模型想法的？

哪怕是代替网络搜索……也不一定是写代码

部署个8b的搞个翻译还行，写代码别想了吧 ^-^

没有显卡 7b 都难吧？如果你只是想部署过只是想尝尝鲜验证下实现方案可以先在有外网环境部署后再考量

配置低了些啊，小体量模型没啥意义

起码也得说CPU型号吧，16运行内存啥都干不了

你这可不是16G，

系统4G，使用4G，只剩8G

还只有cpu only

没多大价值，最多翻译了

embedding,这个应该可以

目前就开机的系统大概就会占用4g以上吧！加点自启动软件差不多8g！应该是部署不了什么的了

你成功的把我逗笑了，建议你使用人肉大模型。

虽然社区准则是 真诚、友善、团结、专业。我也一直恪守。

但是看到这种帖子还是不免想骂娘。

你是 16G M5 macOS 还差不多

当然你能说出 没显卡这种话 我也就只剩三个字了 __ __ __

顶多能部署12B的模型，但2026年的今天你想用它来写代码实属天方夜谭。如果真能写代码的话，你打开L站首页早就是大家在讨论哪个12B模型写代码好使了

16G没显卡，大概率是没有啥能推荐的

不过佬可以打开下面这个网站看一下是否有能带的动的，不过能部署不代表能流畅使用

CanIRun.ai

CanIRun.ai — Can your machine run AI models?

Detect your hardware and find out which AI models you can run locally. GPU, CPU, and RAM analysis in your browser.

qwen3.5 8b，开64k上下文试过了还不错^-^^-^^-^

qwen3.5 9B试试，只有内存的话，推理速度很慢

gemma的2b模型本地各种杂活用用