• iorilu

    https://github.com/deepseek-ai/DeepInfer

    看有没有大神优化大幅降低本地部署要求

    主楼
  • Jack66

    应用场景在哪里呢?

    #1
  • askfilm

    @Jack66 应用场景在:以“技术平权”的方式,把原本属于头部企业的“低成本大规模服务能力”交到了中小国家开发者手中,帮助它们跨越算力与工程经验的鸿沟。

    #2
  • iorilu

    @Jack66 可能个人弄个十张卡也能部署卖 token 赚钱了啊

    这以后可能是个好生意

    投资几十万上百万, 不比开店强

    #3
  • GPLer

    @iorilu 规模效应,理论上不可能比官方便宜太多,那别人为啥不用官方的,用第三方的还要担心降智、隐私泄露

    #4
  • xyzos

    真 OpenAI

    #5
  • iorilu

    @GPLer 当然有

    三方可能部署非审查模型, 都懂的, 能干官方干不了的事

    我估计很快就有很多这种服务出来

    以后可能不是中转站的, 就是个人弄几张卡就卖 token

    #6
  • iorilu

    @xyzos openai 早就是笑话了

    这么多年, 毛都没 open 一个

    #7
  • fanxasy

    OpenAI : DeepSeek
    CloseAI : OpenSI

    #8
  • Lekou

    Supported hardware:

    NVIDIA SM100 GPUs
    Huawei Ascend 950 NPUs

    这不是普通人,甚至小企业能玩得起的呀。。

    #9
  • florentino

    不知道这个框架干嘛用的,看这个: https://mp.weixin.qq.com/s/gA51FfYoAedGGWYnqRNFiw

    #10
  • AIgogo

    vllm sglang 现在的迭代速度,就知道推理框架一堆人才能玩的转。DS 只是为了上市,在 ppt 上闭环自己的生态,仅此而已

    #11
  • PrinceofInj

    @fanxasy 支持 deepseek 注册 OpenSI 商标。

    #12
  • zhangli2946

    @PrinceofInj 为什么不是 OpenDI 或者 OpenDS

    #13
  • Jimmyisme

    @AIgogo 只支持一个模型和支持一堆模型的工程难度是不一样的。

    #14
  • c0nstantien

    @PrinceofInj 天父杀天兄啦,哈哈哈

    #15
  • Haku

    2 月回本。
    DS 是不是资金状态比 OpenAI 和 A/健康多了?

    #16
  • Jack66

    @iorilu 不见得,即使淘宝开源了代码 能怎样,95%的人照样玩不转

    #17

发表回复

登录后回复