• chenglus

    之前在 X 还是油管也看到过有老外在搞,不过似乎主要是做一些 CI 测试之类的。

    视频号上那些人买的 Mac mini 应该配置都蛮高,是部署大模型卖 Token 出海的。

    各位 V 友怎么看?

    主楼
  • duanxianze

    自己用还行,想靠这个赚钱还是算了吧

    #1
  • timethinker

    Mac Mini 统一内存高,可以加载很多大模型,但是内存带宽不行,Token 速度上不去,单个用户本地玩玩没啥问题,但是对外提供并发服务基本上不可用。

    #2
  • chenglus

    @timethinker 满血 M5 Ultra 似乎单机就可以部署 GLM 5.3 ,就是不知道 TPS 有多少就是了。

    #3
  • SilentOrFight

    我了解过的工作室最起码都是一堆显卡,MacMini 真满载了时间长了散热、性能都不行吧。

    #4
  • chenglus

    @SilentOrFight 也可能是 Mac Studio ,我看他们自建机房应该是参考了数据中心一样的散热的,散热应该不用担心,主要不知道性能如何了。

    #5

发表回复

登录后回复