• 咪嗷呜

    某pdf说 kimi 把 RL 整个后训练团队都砍了,纯蒸^-^只做 sft 真的假的,如图

    图片

    主楼
  • popyui

    他说啥你信啥,超时空蒸馏呗。

    你想想可能吗。

    #1
  • Muse

    感觉这不太可能,后训练是必须的吧,后训练需要监督微调,纯蒸馏那不就是无监督了,纯黑盒 ?

    #2
  • 于苍梧

    你的意思是,k3蒸馏肥波后实现了肥波也做不好的3d游戏和网页,对吗?

    蒸馏能突破原模型上限的话我支持蒸馏。

    #3
  • Crimson-Rogue

    这种基本是带情绪或带立场的二手加工,没有署名、没有可查信源的内部爆料,看看就行,别当真

    #4
  • xiaokonglong

    老美AI的垂死挣扎罢了,现在搞技术搞实力没法领先优势了,就开始搞下作手段了

    #5
  • 若时间无垠

    国内公知们打的舆论战罢了 ^-^出处不明

    #6
  • repo

    信源都是QQ微信聊天记录,昨天就看到有人开贴问了,当二手传闻看看差不多了

    看了一下甚至有不少错误,比如标准Fernet使用AES-128-CBC和HMAC-SHA256,不是文中的2^65536,对照信源基本都是把指控和八卦有AI拼起来和加工的,我甚至都没有找到时间线的信源

    #7
  • 时牧

    可能只是国内小嘉豪用 ai随便生成的

    #8
  • tsjbjgs

    你现在信了或者你现在这里发帖人,故意制造舆论的目的就达到了,需要关注么?东西发布了么?

    #9
  • breadpig

    作为用户只关心好不好用,能不能用,如果能越来越便宜,大航海时代快来吧!

    #10
  • y29lee

    纯sft能做出来这水平吗,那RL吃这么多资源开玩笑呢。而且蒸馏没有cot效果哪有这么好,真sft做出来的那直接领先世界了

    #11
  • WolfHolo

    我咋记得这是初中生AI生成写的 舆论战这一块儿

    #12
  • tikitoki

    以前是坏人骗蠢人,然后是蠢人骗蠢人,现在是蠢人拿AI骗完自己再骗其他蠢人。

    #13
  • blacksein

    又是路由到fable

    写这东西的老哥是个缝合怪吧 ^-^

    #14
  • btsonny

    国内外砂纸互相震动导致就是纯粹骗经费

    #15
  • iesori

    管你蒸不蒸的,我只想用上便宜好用的模型,而且你是说纯蒸馏蒸出了一个部分能力比原模型更强的?蒸到未发布的模型了? ^-^

    #16
  • FleetSnowfluff

    不要输出和相信这种毫无信源的啊,这种捕风捉影的小故事,你丢给AI一天写出几千篇 ^-^能不能有点自己的判断能力啊

    #17
  • sophon7

    只能说一开始拿蒸馏这个词用来扣帽子的人就很坏

    #18
  • for_the_zero

    超时空蒸馏

    模型自己强化

    梁圣狂送fable

    ……


    刷到知乎某人得出结论:Anthropic通共

    fable发布之前就提前给zai蒸馏

    允许DeepSeek长期使用自己的顶级模型做低价转售

    A\大人其实是在通共啊(

    #19

发表回复

登录后回复