• kk-linuxdo

    DeepInfer推理框架和deepseek-recipe 编解码组件全面开源了

    消息来源:DeepSeek 开源推理框架:走向真正普惠的未来

    主楼
  • 大肥鱼

    ^-^最支持梁圣的一集,这才是ai社区应该有的样子,而不是拿着一个modeltrace在那里指责deepseekr1 蒸馏claude

    #1
  • leinuo

    牛逼,梁圣厉害啊。。。。。。。。。。

    #2
  • noplace

    图片

    #3
  • Hao-linuxdo

    这个组件开源之后,是不是意味着第三方部署的模型能力能完全对齐官方渠道?

    似乎大家用第三方订阅的时候都很希望自己被路由到官方渠道,第三方部署还是差点意思。

    #4
  • bracy

    这是真牛逼,梁圣伟大,源神来了

    #5
  • Star

    github.com

    图片

    GitHub - deepseek-ai/DeepInfer: DeepInfer: High-performance, large-scale inference...

    DeepInfer: High-performance, large-scale inference framework for DeepSeek models

    github.com

    图片

    GitHub - deepseek-ai/deepseek-recipe

    通过在 GitHub 上创建帐户来为 deepseek-ai/deepseek-recipe 开发做出贡献。

    https://zhuanlan.zhihu.com/p/2095560295930508953

    #6
  • Star
  • kiki

    一个是慢,二是智商也有点问题

    #8
  • 义演丁真

    图片

    看来确定性推理都是大家在努力推进的方向呢 有空要好好学习一下

    #9
  • meteora626-linuxdo

    仅次于训练框架的核心资产了。现在第三方还是vllm sglang 效率和智商还是差点意思,这次是真雄起了

    #10
  • AmaTsuemeAkira

    图片

    #11
  • softwind

    是共和国勋章吗,好像梁圣真的会有这个资格欸(如果这么保持下去^-^

    #12
  • AmaTsuemeAkira

    没错!一定会保持的,国运级人物和公司了。

    #13
  • gwokfun

    “为善与众行之,为巧与众能之”

    说得太好了

    #14
  • 二手内裤

    梁圣需要重点保护了, 不能再抛头露面了,看看伊朗的核科学家的下场吧

    #15
  • 大肥鱼

    美国让他去参加会议他都不去,我觉得这点可以放心的

    #16
  • kiki

    你没发现都没有露过面么。投资人会议也是远程接入。。所以。。他其实AI!

    #17
  • 大肥鱼

    就那一张露面的图 被网友搞来搞去 笑死

    #18
  • 今去故

    他的照片全网都寥寥无几,更别说露面了。 ^-^

    #19

发表回复

登录后回复