gemma4 qat 版本已经够用了 两张 2080ti 22g 的事

只能跑 q4 的话建议用 gemma4 qat qat 版本训练的时候就针对小显存，q4 量化的性能可以和 q8 打