• David

    求助 问了下AI, 貌似gpt6取消了超过272K双倍计费规则, 不知道是不是意味着可以把上下文重新开到1M了。

    想问下各位大佬的意见

    图片

    主楼
  • 小夜

    官方说是没有双倍计费的,但是实际在使用的过程中,上下文多了以后,每次发送的文本量大了,触发缓存消耗的额度也会相应的变多。而且上下文过长会导致幻觉过大,上下文遵循能力变差。可以考虑把上下文控制在500K以内或者400K以内吧

    #1
  • 某Li

    建议400K内,400K以上的速度基本是不可用状态。

    #2
  • 爱长草的云

    图片

    512以内最合适,多了就容易出幻觉了

    #3
  • 诺伯里

    萌新不懂,codex-cli要怎么设置模型的上下文限制 ^-^

    #4
  • Lockboy

    ~/.codex/config.toml```
    model_context_window = 512000
    model_auto_compact_token_limit = 460000

    #5
  • SuperDAJB

    缓存很贵的,别开那么高,不双倍收费一样账单在燃烧

    #6
  • 🛡️Rice_R._Rug_💛🍋⭐️💫

    上下文实际使用中有遇到瓶颈吗

    如果没有的话,用默认的就行

    反正我用了这么久是没管过上下文了

    #7
  • wuhu667

    额度不太富裕的话,不建议改;5.6的时候改成了1M压缩500k,真是花额度如流水

    #8

发表回复

登录后回复