• 长生落丶

    如题,抖音刷到那个什么硅基拍档的SKILL,但是找不到仓库,作者也找不到,就很奇怪,但是他的视频里面讲的5000轮会话还能记住上下文,真能做到吗?有巨佬解答一下原理吗?

    主楼
  • hucccl

    多怀疑他人在怀疑自己然后多测试

    #1
  • 长生落丶

    主要没找到仓库,没办法验证,自己本地跑,基本上超过50轮很多时候就管不住了啊

    #2
  • xiedian

    虽说没有调查就没有发言权是对的。但这个5000对话能记住上下文还用验证吗?^-^太假了点,肯定还有其他限定

    #3
  • 长生落丶

    所以就想问有没有大佬有这玩意,我自己本地测测

    #4
  • Abruzz1

    真要说起来也没难度啊。在不谈token的前提下我把上下文存成md放仓库里,让llm按时间顺序慢慢搜不就得了。只不过收益和token消耗不成正比。现在普遍做法是有损压缩+向量索引,不丢上下文是不存在的。

    #5
  • 长生落丶

    如果会话和索引文件越来越大,理论上只要机器的内存和磁盘的读写能支持,就能无限扩?

    #6
  • Abruzz1

    不存在无限上下文。只有一种情况是你按需检索,你想要哪份上下文,给他搜出来。不是说所有上下文都放在message history里。

    #7
  • UESTC

    确实,如果不说时间、效率、成本、可用性,就是耍流氓

    #8
  • Abruzz1

    pi那个创始人说的AIagent不需要memory,这句话其实挺对的。你可以理解一下这句话。compaction>memory

    #9

发表回复

登录后回复