可以试试部署 Q3_K_M 格式的量化模型，精度损失是可以接受的

由于 27B 模型太大了所以没法提供体验场，只能本地部署，部署过程中如果遇到了什么问题都可以问我