octopus | 为个人打造的美观优雅的 LLM API 聚合服务 支持 会话保持 熔断 单渠道多KEY多端点 自动分组 自动同步上游模型 热重载 负载均衡 协议互转 用量统计

^-^ 桌面端

首页仪表盘 |
渠道管理 |

|
|

分组管理 |
模型管理 |

|
|

^-^ 移动端

首页 |
渠道 |
分组 |
模型 |
设置 |

|
|
|
|
|

功能

- OpenAI Chat / OpenAI Responses / Anthropic 三种协议互转

- 一套配置适应不同客户端,不需要反复更新BASEURL和MODEL_NAME

- 多渠道负载均衡

- 用量统计

功能亮点

- 统一的模型名称，cli客户端无需重启即可热重载渠道和模型

- 自动从上游更新模型价格

开源地址

github.com

GitHub - bestruirui/octopus: One Hub All LLMs For You | 为个人打造的 LLM API 聚合服务

One Hub All LLMs For You | 为个人打造的 LLM API 聚合服务

反馈问题

没想到发布没多久，就收到佬友们如此热烈的支持，收到了很多反馈，感谢佬们的支持 ^-^你们的小^-^^-^就是对我最大的支持

这里总结一下佬们反馈的功能建议，都会做的 ^-^

- 添加渠道时自动将模型添加到分组 (^-^已完成)

- 日志记录 (^-^已完成)(增加是否保存历史日志的控制项,但是日志过多,日志页面可能会有卡顿)

- 设置页面增加系统信息 (^-^已完成)

- Gemini API的支持 (^-^已完成) 感谢@heerheer

- 同步渠道商模型 (^-^已完成)

- 多数据库支持 SQLite、MySQL、PostgreSQL 直接部署到云平台 (^-^已完成)

- Key权限(过期日期，金额限制) 统计数据 (^-^已完成)

- Key登录,以及key登录的单独页面显示(^-^已完成)

- 单渠道多Key,多端点(^-^已完成)

- 重构分组管理

关于日志功能的一个投票,我个人从没有看过newapi的历史请求日志,我更倾向于仅实时日志,代码简单,数据库压力小

- 日志页面仅实时日志

- 日志页面实时日志+历史日志

0
投票人