• Lynn

    支持 1M 上下文的模型,佬们一般设置多大上下文或者达到多少之后必须压缩。

    - 128K - 10%

    - 256K - 25%

    - 512K - 50%

    - 1M - 100%

    0
    投票人

    主楼
  • Lynn

    唱票```
    [128K - 10%] 获得 0 票
    [256K - 25%] 获得 9 票
    [512K - 50%] 获得 9 票
    [1M - 100%] 获得 5 票
    总计 23 票

    
    支持 1M 上下文的模型,设置上下文在 **256K-512K** 较为常见
    
    ---
    
    我本人设置的是 256K,感觉很舒适,不使用任何子代理
    #1
  • jue

    那压缩策略呢? 不跟压缩策略有很大关系吗,佬友使用的什么agent的compaction

    #2
  • Lynn

    我用的 pi 内置的压缩,触发条件是达到距离100%上下文窗口小于16384token时触发自动压缩

    还使用了 rtk 钩子来节省 token ,感觉很有用

    #3
  • vinceblue

    每次看到这国模二字,我都想到那些模特 ^-^

    #4

发表回复

登录后回复