• 紫野

    如题,最近高强度使用v4.1f后换回v4p了,无论是在回复邮件,写代码,写注释,说明文档等工作中,用词总是用一些黑话词,比如表达版本明明可以用version,偏要用用epoch。感觉就是蒸馏Claude蒸太多了,说话全是鬼话连篇,黑话连篇

    主楼
  • yu_oimo

    deepseek没有搞对齐叙事吧?我感觉把对齐的毛病也搞过来了

    #1
  • zzxzz12345

    感觉越会说黑话的模型感觉越是过拟合,说人话的模型反而不过拟合,大概是因为其参数化记忆已经没有给他留下好好说话的空间,典型例子就是sol和muse spark1.3,最近ds flash和glm5.3 flash也有这个倾向

    #2
  • 翠花上酸菜

    不说人话是趋势,搞代码过头了,RP能力大幅度下降

    过几个月说人话阵营只剩豆包和谷歌了

    #3
  • zzxzz12345

    还有一个可能性是凡是后训练在奖励函数里尝试优化token效率的,都不可避免的让模型开始压缩表达造成了说黑话的结果

    #4
  • Kami958

    是的,非常严重,我用它来写方案设计和架构文档,头很大,和用minimaxM3有的一拼

    #5
  • 宙方_🥇👽🛡️

    确实

    Qwen3.8Flash 倒是挺灵动的

    #6

发表回复

登录后回复