lao1 me
AI服务器日常推广公告
搜索
菜单
主题回帖收藏
  • shandianchengzi
    有没有可配置同时使用多个 api 的 harness热
    谢谢佬友,可能确实我这需求太小众了我也自己去手搓吧
    shandianchengzi2026-09-02AI12Norman_Mises
    AI
  • shandianchengzi
    有没有可配置同时使用多个 api 的 harness热
    谢谢佬友我刚刚去查了一下,cpa 的轮询看起来好像和 cc switch 的 test 测试类似,只是从手动变成自动定时触发了,不知道是不是这样
    shandianchengzi2026-09-02AI12Norman_Mises
    AI
  • shandianchengzi
    有没有可配置同时使用多个 api 的 harness热
    不是自动轮询也不是手动切换供应商。自动轮询会浪费算力,手动切换会浪费时间。 我需要的是自动分配当前请求对应的 API 的中转站,比如一个 API 有 6 个并发,当前请求需要占用 7 个,就分别交给两个 API 做。做的过程中给 API 池加 lock。就是最简单的资源分配调度问题。
    shandianchengzi2026-09-02AI12Norman_Mises
    AI
  • shandianchengzi
    有没有可配置同时使用多个 api 的 harness热
    但是好像也没有体现切换,只能一次登一个 API 账号去用 Agent?
    shandianchengzi2026-09-02AI12Norman_Mises
    AI
shandianchengzi
shandianchengzi
Lv1 · lao1 0
TA的主题TA的回帖我的称号TA的收藏
提示