• llxisdsh

    本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:

    - 我的帖子已经打上 开源推广 标签: 是

    - 我的开源项目完整开源,无未开源部分: 是

    - 我的开源项目已链接认可 LINUX DO 社区: 是

    - 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是

    - 以上选择我承诺是永久有效的,接受社区和佬友监督: 是

    以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出


    Const API Local

    开源地址:

    Const API Local

    声明这是CONST API平台的本地版本形式, 它能解决下面一些问题:

    - 渠道聚合成统一入口: 是, 统一为local地址

    - 订阅转API: 是, 更便捷

    - 工具配置和模型注入: 是, 一键配置支持工具更多

    - 模型名归一化: 是

    - 跨协议转换: 是, 同协议透传, 跨协议转换

    - 流式/双工协议支持: 是, 支持实时语音,甚至将来的视频

    - 高缓存率: 是, 无论是否跨协议

    - 请求重试: 是, 请求失败自动重试另外的可用渠道

    - 粘性路由: 是

    - 共享给团队使用: 是, 支持对成员用量管理

    - 多语言: 是, 支持中英文

    - 模型市场平台: 不, 这需要模型价格管理/路由机制, 不是Local版范畴

    - 账户平台: 不, 这需要注册/计费/充值/提现, 不是Local版范畴

    开发的初衷是模型共享

    当有多个渠道和多个工具共用时, 组合搭建并给周围人使用, 还是有点费劲的, 本工具能简易代替一系列软件组合的轻量实现:

    对于cc-switch, 本工具能支持更多agent工具, 因为支持多种模型提供方式, 包括复杂的注入模型列表, 还有codex session迁移等必备的功能

    对于newapi/sub2api/CLIProxyAPI, 本工具就是一个客户端软件, 不需要容器部署, 上架渠道简单而自动化, 模型名也不需要配置, 自动拉取, 模型名自动归一化, 并支持Openai Chat/Responses, Anthropic, Google gemini完整四套协议, 输出三套完备的Url体系

    本工具的开源价值

    采用Tauri开发, 绝大部分rust代码为主, 执行效率高, 打包后包体很小, 我认为最大的价值是一个参考, 特别是rust的参考, 比如:

    - 跨协议处理, IR层抽象, 如何解决透传和转换

    - 三家API的公开抽象

    - 订阅端的特殊处理, 订阅端基本和标准协议类似, 但总有特殊实现

    - 工具启动和配置的统一流程

    - 高度抽象且实用的渠道配置页面

    - 甚至一些二次处理的工具logo等

    这里要声明, 你需要Clone到本地, run dev测试, run build进行打包,```
    git clone https://github.com/llxisdsh/const-api-public.git
    cd const-api-public/client
    npm ci
    npm run dev
    ```打包实在有点贵, 如有需要, 回复我, 我来评估

    技术附图

    附图1: 是AI生成, 意思是缓存率要复用合适的id, 尽力沿用同样的渠道, 确保模型名最终能透传

    图片

    附图2: 表明协议转换处理, 同协议透传, 夸协议通过中间层转换, 可用性优先

    图片

    界面附图

    使用: 可一键启动/配置/取消/定位工具

    图片

    模型: 自己上架的渠道

    图片

    新建渠道:

    图片

    再次贴上开源地址

    Const API Local

    如有需求, 欢迎在这里交流

    如有问题, 请在这里反馈

    如有合作, 也可私聊于我

    感谢各位巨佬!

    主楼
  • E4y

    这个好啊

    mark 了先

    #1
  • llxisdsh

    本来还有服务器端, 包含文中所述的两个"不"内容, 这样就成为了真正的平台, 我有意开源, 但貌似大家都拿去搭建所谓的平台, 各个平台孤立, 实际违背了"共享"的本意, 所以暂时只开放了local版本, 反正这也是完整的一套闭环, 如有很好的想法, 也可开放讨论

    - 模型市场平台: 不, 这需要模型价格管理/路由机制, 不是Local版范畴

    - 账户平台: 不, 这需要注册/计费/充值/提现, 不是Local版范畴

    #2

发表回复

登录后回复