A_Kihi2026-08-20
11010
给大家伙看个乐子,不知道在干嘛,一上午用了1.1亿的dsv4flash 缓存命中26%,烧了200多块钱,我不知道怎么做到的,我感觉某种方面来说也是很牛逼了能一直保持这么低的缓存命中率,图是公司内部中转站的数据库统计出来的,可能稍微有点误差.
主楼
Dyna2026-08-20
9192
看用途，比如用来翻译，缓存率就是很低。
单看一个缓存率看不出什么。
#1
FleetSnowfluff2026-08-20
19812
要去看原生统计，公司统计的，谁知道是不是接入deepseek的人把缓存字段算错了呢（毕竟我就干过 ^-^）
#2
A_Kihi2026-08-20
11010
我本地的误差在2%左右,误差肯定是有的,但是到不了这么夸张的程度,其他成员的命中都是90%往上的
#3
咪叭2026-08-20
6906
你可以让ai帮你读取一下用的harness的session对话日志
应该可以分析出来原因的
#4
billchen2026-08-20
58282
^-^我们用的dsv4flash经过公司内部中转站之后缓存率最高48%
#5
白泽2026-08-20
9125
是不是在系统提示词附加了时间等变化字段…有些玩rp的账单就是这么爆的
#6

登录后回复

ds1.1亿token缓存命中26%好神奇的命中率不知道怎么做到的