• bobox

    如果一直用同一个会话,额度消耗得飞快!

    体感消耗速度快50%以上,如果会话中图片特别多会更明显。

    现在有大需求时,我都会开新会话了。

    不知道佬们有没有同样的感觉?

    主楼
  • 5seacoffee

    上下文长了就是这样,再加上图片多了,如果你发了很多图片最好 compact 一下,然后及时 hand off

    #1
  • 某Li

    从没发现过这个问题,倒是感觉astra消耗一直蛮快的。新开会话甚至会忘记太多没有记在项目里的东西了,我都不太乐意新开。

    #2
  • bobox

    重复得比较多的动作,可以让模型记在仓库下的AGENTS.md。

    #3
  • liulqyed

    但是佬做项目的话,他不是还得有上下文,不然每次重开一个,怎么让他继续你的任务啊

    #4
  • goodman00

    上下文多了缓存写入读取就多了,应该什么模型都一样吧,只是astra比较贵所以肉眼可见消耗很快

    #5
  • 某Li

    肯定都是这么做的呀,只是针对近期几个任务的调优,如果新开对话的话还得让Codex去找或者我口述一遍,不新开对话的话就不会忘

    #6
  • bobox

    按需求来就好,大需求就直接开会话。

    #7
  • Joyii

    这种1M的模型 除非是deepseek便宜大碗的 不然都不会开那么高吧哈哈

    #8
  • bobox

    是这样的,所以Astra只能频繁开新会话了。 ^-^

    不然真扛不住。

    #9
  • Dowad

    猜测原因:

    - 超过 272K,2倍计价

    - turnstate 更新,前缀缓存失效

    #10
  • Jimmy

    用啥AI都有这个习惯,开好tickets后,每一个小实现都是新开对话,用HANDOFF文档做交接,不然每次把之前的上下文发过去,一个是费token,二是破坏注意力。

    #11
  • 564157309

    有啥区别吗?你再怎么长上下文,给llm的最多不也就200多k

    #12
  • 维维亚米利欧

    图片

    =。=我都是一个窗口干好几天的

    #13
  • Tibo_Sottiaux

    图片多会导致流量爆炸,几个请求20GB,最后额度没蹬完流量都没了

    #14

发表回复

登录后回复