说白了就是钱呗，让老板投资买 GPU 啊。64 块 B200 插上，Kimi-K3 2.8T 部署进去，什么标书审查核对检索，没有什么是解决不了的。搞 AI 又不想花钱，哪有那种好事。

我也是m2max 96GB，只有 SSD 是 4TB 的，其他配置和你都一样。 kv cache type 我都用的 Q8_0，Gemma-4-26B-A4B 使用的 Q8_0 量化，常驻内存，永不关机，使用杠杠滴。放心吧。

llama.cpp 走起吧，m2max 的内存带宽有 400GB/s，不跑本地 LLM 就浪费了，Qwen3.6-35B-A3B、Gemma-4-26B-A4B 部署上吧。

内个，要不要试试炒 A 股，技术好的话每天进账两三千还是可以的。