• coupile

    雷霆大思考很严重,即使这次ds改进了token效率但依然是很烧token,这个是基模的注意力机制带来的问题吗?

    主楼
  • firespoon

    其实A​^-^也有点这个问题。现在token效率只有O​^-^是独一档,但是O​^-^的模型雷霆大测试^-^

    #1
  • Mufasa

    并非国模,是全部,海外sota只是藏了思维链,要是真的没有雷霆思考是不会那么慢的,claude最低差不多也有80 t/s的速度,但是他从思考摘要到输出工具调用,这个过程明显也是好几k的思考,有时候更久

    #2
  • jcc

    小参数模型,在面对复杂问题的时候,都这样

    sonnet5.5也这样

    luna和之前的sol 也这样

    #3
  • 汉武帝(的大熊猫)

    那么请问了Gpt和克劳德给你看思维链么?

    #4
  • mark

    用kiro的opus5.5,那思考链也看得我力竭 ^-^

    #5
  • 天梦

    只是国外的AI不给你看思维链而已,给你看了估计你会问“为什么全部AI都会雷霆大思考”^-^

    #6
  • xxy

    不单单是国模的问题吧,思考链过长感觉是大部分模型的通病了

    #7
  • 翠花上酸菜

    可能llm这条路暂时未找到更好的显著提高能力的方法 ^-^

    #8
  • gadfly3173

    如果你试过同一个任务给6.1-sol和glm-5.3-flash的话,你会发现实际上glm更省token,一个任务干完glm不到80k上下文,gpt已经快200k了(都接入claude code使用)

    #9

发表回复

登录后回复