• IgniteRan

    用的grok build+ccswitch,ccswitch里配置了上下文窗口200K

    图片

    但是不生效,上下文一直超出也不压缩

    图片

    配置文件

    图片

    我可以在配置文件里加上

    [session]

    auto_compact_threshold_percent = 40

    但是有的时候/resume的时候,上下文很少也会触发压缩,比如有一次95K/200K,我怀疑是不是走了200K的40%了?

    就很奇怪

    主楼
  • xx_yy1

    可能ccswitch没有远程压缩接口

    #1
  • IgniteRan

    按理来说,如果是那种情况,站里应该有很多佬出现这种问题吧,但是我没怎么搜到诶

    #2
  • IgniteRan

    我可以在配置文件里加上
    [session]
    auto_compact_threshold_percent = 40

    但是有的时候/resume的时候,上下文很少也会触发压缩,比如有一次95K/200K,我怀疑是不是走了200K的40%了?
    就很奇怪

    编辑到主帖里了,很奇怪的问题

    #3
  • 秋枫冷夜

    图片

    我一直是这样用的,目前好像没有发现不能压缩的问题

    #4
  • IgniteRan

    500k是没问题,但是grok超过200k的部分要翻倍计费,所以我想用200k上下文。这样问题就出现了,我要用200k上下文,我也设置了,但是他超过了不自动压缩

    #5

发表回复

登录后回复