- 紫野2026-09-1537321
如题,最近高强度使用v4.1f后换回v4p了,无论是在回复邮件,写代码,写注释,说明文档等工作中,用词总是用一些黑话词,比如表达版本明明可以用version,偏要用用epoch。感觉就是蒸馏Claude蒸太多了,说话全是鬼话连篇,黑话连篇
主楼 - yu_oimo2026-09-1515655
deepseek没有搞对齐叙事吧?我感觉把对齐的毛病也搞过来了
- zzxzz123452026-09-1510333
感觉越会说黑话的模型感觉越是过拟合,说人话的模型反而不过拟合,大概是因为其参数化记忆已经没有给他留下好好说话的空间,典型例子就是sol和muse spark1.3,最近ds flash和glm5.3 flash也有这个倾向
- 翠花上酸菜2026-09-155180
- zzxzz123452026-09-1510333
还有一个可能性是凡是后训练在奖励函数里尝试优化token效率的,都不可避免的让模型开始压缩表达造成了说黑话的结果
- Kami9582026-09-165766
是的,非常严重,我用它来写方案设计和架构文档,头很大,和用minimaxM3有的一拼
- 宙方_🥇👽🛡️2026-09-168782