• 爱吃番茄

    gpt的上下文管理开了之后就完全没有压缩了

    这样的消耗和有远程压缩的花费对比有人知道吗?

    我个人体感是开了上下文管理会降低一些花费,但是有可能出bug

    主楼
  • 野狗

    等一手佬们的报告,目前还没试过上下文管理,长会话压缩一下要好几分钟,大项目后期体验真是奇差

    #1
  • fishcode

    远程压缩我之前测试过 消耗的token是各种压缩里面最多了,但是信息保留的比较好,上下文这个没试过就不太清楚了

    #2
  • 爱吃番茄

    上下文管理相当于让ai自己写了个交接文档,然后开新窗口继续跑。

    这个体感上是花费最少的,但是有时候会出现目标偏移之类的问题

    #3
  • fishcode

    这个感觉跟在codexapp里面直接让他写一个文档然后开一个新线程让他发送指定的提示词没什么区别啊 ^-^

    #4
  • 1shu

    真的吗?pi不就是这样压缩的吗?

    #5
  • I_Love_AI

    把话题复制一个链接,新开一个话题扔过去。

    #6
  • kitakita0421

    你说的是那个codex的experimental context管理功能吗, 那个被openai远程关掉了, 即使你本地强行修改相关变量开启, 但他还是有可能server端给你强行关闭, 导致中途有概率清零context还是怎么的, 有人提过相关issue

    #7

发表回复

登录后回复