可能有朋友不知道这个是开源了什么，简单说这个东西开源了以后哪怕用劣质渠道的llm都不会太慢。开源了一个推理框架infra 相关的东西。这可是DeepSeek压箱底的东西啊
PS:这个是ds后训练的负责人之一哈哈哈
大肥鱼已经被白宫封杀了，只不过我有点想笑 ^-^
而且这还仅仅只是个deepseek-flash模型而已，激活参数才16b/8b。pro还在路上呢
简单说这个东西开源了以后哪怕用劣质渠道的llm都不会太慢
这个感觉不好说吧 deepinfer好像和ds是强关联的 而且应该也还是对部署技术有一定要求的
种子已经给了，后面开什么花就让时间说吧，反正我倒是很乐意见的token比水便宜的那一天
快掏出订阅套餐来吧
