• gobert

    确实便宜,送的5美元应该能用到猴年马月了,在快速选择和判断的场景确实比推理模型快太多了,遥遥领先

    jev模型的能力整合进入下一代agent应该是大概率了,当然不一定直接是jev,也可能claude code/codex 会搞出自己的判断模型

    还能说明一点,如果jev模型广泛应用到agent,对存储行情就是大爆击,大幅降低了推理需求,存储下跌可能就不需要等到2028年海力士/三星扩产了

    主楼
  • VincentChen

    不一定暴跌,如果进步这么快,那是不是应用场景更加广泛了,需求可能更多

    #1
  • WWT

    不好说 如果真这么好用的话

    那么那些模型厂商可能先要降本增效了

    毕竟算力紧张 把那些小任务挪走

    #2
  • shengmingboai

    不好说哦,目前还没看到什么实际应用场景比较好的,一些场景换成ds也能做到很快

    #3
  • GPLer-linuxdo

    感觉很难,目前思维链应该是为数不多能一窥模型思考路径的方式,如果只输出答案不输出过程,还怎么优化

    #4
  • L-BlackHole

    可以想象下,如果中转站使用jev判断你是不是在做测试,如果是路由真实模型,否则路由垃圾模型,怎么破(手动狗头)

    #5
  • pkoukk

    有点好奇,它怎么判断的,我如果问它明天股市会涨么,这种问题是可以快速判断的么?

    如果不是,这种问它还是问大模型的界限在哪儿呢

    #6
  • Dax

    我不太看好,jev 无论是做上下文剪裁还是模型路由都会影响到 kv cache,都会让成本增加。

    #7
  • 太阳之子

    bert: 孩子们我又回来了

    图片

    #8
  • gobert

    只要是推理模型,只要是跑在hbm/内存上,别管什么量级,单次请求很难低于1秒,而jev是几十毫秒100毫秒级的,最少快出10几倍甚至几十倍

    #9

发表回复

登录后回复