- Conrad2026-04-28
公司主要接入bedrock，openai，Anthropic，Openrouter,火山方舟，deepseek，google vertex，都是通过官渠接入
主要需求：
- 通过key或者认证文件接入后可以在通过自定义key分发
- 控制key可以使用的模型
- 调用方式统一
- 可以看到自定义key的token用量信息，费用信息
- 最好还可以看到调用请求的日志（请求内容/大模型回复内容）因为是公司内部用
公司已经在用litellm了，没用newAPI是因为统计用量信息太少
求推荐其他好用的开源平台
手里还有一个两个月到期的^-^，每月800G流量，问题一经采纳，赠送以作感谢 ^-^
主楼 - Alixy2026-04-28
Helicone、Portkey、Bifrost ^-^
- lekai2026-04-28
自建 axonhub 感觉不错。—— 主要是我挺喜欢他的追踪功能。
- Conrad2026-04-28
收到，感谢，体验后反馈，大概看了一下，感觉Helicone还不错，部署一下，体验后反馈
- applefood2026-04-28
佬可以试试这个 还在开发中 但偏向个人使用 【开源】LLMRelayService —— Docker 部署个人大模型网关
- 不会敲代码的ai程序员2026-04-28
sub2api?cliproxyapi?
- Conrad2026-04-29
- freeagentic2026-05-12
用litellm 得自己做网关，否则litellm 统计出来是一坨。不知道有没有什么好用的第三方开源的网关呢
- sugarbliss2026-05-14
佬，Helicone 体验的怎么样？
- Conrad2026-05-14
docker镜像挺大的，下了挺长时间，起来之后，没找到我想要的需求点，可能是项目默认配置不支持这些功能，没细研究，手头有别的活就搁置了，记得当时docker compose up -d的时候，项目也有一点问题，用ai改了改才启动起来
- MingShun2026-05-16
- HshavHsuzg2026-08-18
