- qomos2026-10-14
多模型路由可能是老生常谈的问题了,现在 dsv4 速度很快但是有雷霆思考和思维链退化的问题, glm5.3 就好的多.
我用了一个比较简单的方式综合两者的长处:
- 开始任务前使用高级模型
- 任务开始后对上下文进行实时的语义收敛分析和循环检测,采用阈值门控的方式,达到门控上下沿调用jev判断是否升级/降级模型
实测下来基本避免了dsv4的思维链缺陷,整体思维链偏向glm5.3,任务体感跟glm5.3 不相上下,且测试相同的任务完成速度减少了30%,dsv4介入率在84%左右,整体token费用大概减少70%.
可能因为ds和glm都是同一个老师出来的结果,对于gpt的效果没这么好,佬们有什么想法也可以交流一下.
主楼 - uouuou2026-10-14
如何确保上下文缓存呢？清空上下文？
- bzbybw2026-10-14
这就去试试，感谢佬友分享
- qomos2026-10-14
上下文没有去管,按最简单的方式来做的,实际上真正来回切的情况很少,deepseek在有glm开头时对思维链继承的比较好,很少会出现wait,but,also等短语组合开头的情况,就算是切回时缓存过期也只是一次fill的费用比全用glm的token还是显著减少
- fablia2026-10-14