• 💪_🎯_🚀_☁️

    RT 48team的gpt6给路由到了luna

    图片

    之前就怀疑降智,画出来这玩意

    图片

    主楼
  • viento

    是的,发送的token数量在3000以内,100%触发

    #1
  • ychell

    计费还是按照astra的,这就是降智最恶心的地方

    #2
  • alizoed

    这个是默认会打开的功能吗,我这不知道为什么没显示,还是说只有返回模型不一致的时候才会提示?

    图片

    刚刚升级到最新然后试了下发现好像没有

    #3
  • gptman

    - Request Monitoring 的模型列现在区分请求模型、路由模型和上游响应模型;当响应模型与路由模型不一致时,以琥珀色响应模型与“模型不一致”标记提示异常路由结果。(Web / Manager Server)

    看更新日志,只有不一样的时候才会显示

    #4
  • ECE2

    已更新, 炸裂, 发现我的 astra 都是 luna ^-^

    #5
  • saqjs-ld

    好家伙,路由到 sol 就算了,没想到是 luna??

    #6
  • seakee

    太不厚道了,都路由到 luna 了,TPS 还这么低 ^-^

    #7
  • wren

    用astra 是路由到luna, 但是我开luna max 就 capacity 真TM无语

    #8
  • 兰克_福

    一直用luna max,没有什么异常啊

    #9
  • seakee

    感觉最近有一段时间了,luna 又慢又蠢,执行已经切换 3.8f 了

    #10
  • 兰克_福

    图片

    感觉很快啊

    #11
  • 兰克_福

    3.8f不敢用,经常把我项目改坏

    #12
  • luckxingkj

    还有这功能??cpa怎么知道实际模型是什么。

    #13
  • seakee

    我看你开的是快速,这个速度和之前的普通输出是差不多的,我现在普通的输出 tps 最高不超过 20

    #14
  • XDE

    为啥你的首字这么短,我在dmitpro上面部署的cpa,结果首字每次都一二十秒

    #15

发表回复

登录后回复