• wuhudsm

    图片

    图片

    API用户缓存12小时,登录用户缓存永久?

    真的假的,永久缓存怎么做到的。

    主楼
  • T_T

    可能梁圣发威了吧

    #1
  • 浙江数学天才

    翻译:

    openai的蒸馏技术获得史诗级突破

    今天没有重置

    #2
  • clockk

    不明白是什么意思。API选择??????

    #3
  • 义演丁真

    推理引擎多级缓存应该是比较成熟的工作了吧

    hbm-host ram-分布式存储

    #4
  • smart-lty

    看原文是指 API 和订阅的 cache 都是 12h 吧,他原文那个 forever 有点搞

    #5
  • a12908

    永久说是 ^-^ 你信吗

    #6
  • Hifumi_Mizuhara

    难道是学习了Deepseek的新技术^-^

    #7
  • 义演丁真

    应该不是 大企业不可能这么快上生产环境

    #8
  • Roxi

    我觉得最低成本的‘永久缓存’就是记录会话的缓存率,然后根据这个来计算重回会话时的费用

    #9
  • Hifumi_Mizuhara

    我觉得很荒谬啊,就算是deepseek都没有永久缓存,永久缓存怎么想都很奇怪,存储介质不要钱的吗

    #10
  • 救

    应该是以后一直保持12小时的意思吧。永久的是保持12小时这件事

    #11
  • codeover

    刚上X刷到了,想不通,哪怕是缓存,存到硬盘上,那也要成本啊,好奇怎么做到永久的

    #12
  • reboot

    吸取ds的力量 变得更强

    #13
  • jcc

    昨天ds公布了72小时缓存。。。

    今天OpenAI 就跟进了

    这波真应该感谢梁圣啊

    #14
  • popyui

    deepseek一开源,openai就跟进

    #15
  • イレイナ

    什么时候岁月史书指责deepseek抄袭了他们未公开的新技术

    #16
  • Charles

    tibo:感谢梁圣开源

    #17
  • 杰哥

    【别对我说永远 永远 永远,永远是太昂贵的誓言】

    ----《永远永远》

    #18
  • tikitoki

    deepseek这个技术是把缓存放在硬盘,而且之前就透露过方式和参考文献只不过没给技术细节。

    #19

发表回复

登录后回复