• Rugters

    有没有大佬在Mac 笔记本本地部署过本地大模型,量化的那种能不能简单的写写代码,做做独立站的文章之类的,或者是本地生图的模型?

    主楼
  • 9C

    M1 32G 跑 MLX 版 Qwen2.5-7B 量化很流畅,写文章够用

    #1
  • Eric12

    真的吗?

    M1 32G+512的路过,

    有机会试试~

    感觉平时公益站就足够了~

    #2
  • mason

    开源模型 7B、16B都没啥问题啊

    #3
  • 卡卡西

    huggingface.co

    图片

    mlx-community/Qwen3.6-35B-A3B-4bit · Hugging Face

    We’re on a journey to advance and democratize artificial intelligence through open source and open science.

    4bit 的 Qwen3.6-35B,应该是目前能跑起来的性价比最高的。

    生图可以用 flux2-klein-9b-8bit

    #4
  • ted

    没什么用,api比你电费都便宜,flash秒杀。

    笔记本一般用来学习或者部署视频模型破限,否则浪费时间

    #5
  • Belope

    顶配的 m1max 跑个 8bit 量化的 mlx 35ba3b 的速度基本上是可接受的极限…

    #6

发表回复

登录后回复