• ChricHuang

    图片

    图片

    图片

    说下我的背景:

    gpt20x订阅,gpt客户端已更新最新版本,CPA版本刚更新到最新版本,

    CPA 服务端提供模型目录 → Codex 客户端获取 → 写入 models_cache.json```
    921000 × 95% = 874950 ≈ 875k

    主楼
  • lyyone

    当前默认是最优的,1M的花费和模型容易忘记上下文,后期1m会作为标配

    #1
  • 小山羊

    我其实一直没搞懂context_window 设置为272000了,那到272k的时候就会上下文压缩了,那模型的上下文应该永远不会超过272k吧,这个最大上下文窗口921k还有什么用吗 ^-^

    #2
  • 白濑

    最大和最优不是一个概念吧,只是说明它确实可以支持这么大的上下文

    #3
  • 菲林

    压缩之后 codex 并不会失忆,现在开 1M 不仅会增大开销而且效果还不好,OpenAI 的员工也是不推荐开 1M 的,codex 的压缩已经做到非常优秀了。

    #4
  • 小山羊

    这个我知道, 所以我想知道这个理解是对的吗,context_windows设置为272k,模型的上下文长度永远不会超过272k,因为超过就会压缩

    #5

发表回复

登录后回复