One API 接口管理 & 分发系统

工具 作者:KnowSafe 2024-11-02 11:08:38 阅读:22

OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.

功能

  1. 支持多种大模型:

    •  OpenAI ChatGPT 系列模型(支持 Azure OpenAI API)

    •  Anthropic Claude 系列模型 (支持 AWS Claude)

    •  Google PaLM2/Gemini 系列模型

    •  Mistral 系列模型

    •  字节跳动豆包大模型

    •  百度文心一言系列模型

    •  阿里通义千问系列模型

    •  讯飞星火认知大模型

    •  智谱 ChatGLM 系列模型

    •  360 智脑

    •  腾讯混元大模型

    •  Moonshot AI

    •  百川大模型

    •  MINIMAX

    •  Groq

    •  Ollama

    •  零一万物

    •  阶跃星辰

    •  Coze

    •  Cohere

    •  DeepSeek

    •  Cloudflare Workers AI

    •  DeepL

    •  together.ai

    •  novita.ai

    •  硅基流动 SiliconCloud

  2. 支持配置镜像以及众多第三方代理服务。

  3. 支持通过负载均衡的方式访问多个渠道。

  4. 支持 stream 模式,可以通过流式传输实现打字机效果。

  5. 支持多机部署,详见此处。

  6. 支持令牌管理,设置令牌的过期时间、额度、允许的 IP 范围以及允许的模型访问。

  7. 支持兑换码管理,支持批量生成和导出兑换码,可使用兑换码为账户进行充值。

  8. 支持渠道管理,批量创建渠道。

  9. 支持用户分组以及渠道分组,支持为不同分组设置不同的倍率。

  10. 支持渠道设置模型列表。

  11. 支持查看额度明细。

  12. 支持用户邀请奖励。

  13. 支持以美元为单位显示额度。

  14. 支持发布公告,设置充值链接,设置新用户初始额度。

  15. 支持模型映射,重定向用户的请求模型,如无必要请不要设置,设置之后会导致请求体被重新构造而非直接透传,会导致部分还未正式支持的字段无法传递成功。

  16. 支持失败自动重试。

  17. 支持绘图接口。

  18. 支持 Cloudflare AI Gateway,渠道设置的代理部分填写 https://gateway.ai.cloudflare.com/v1/ACCOUNT_TAG/GATEWAY/openai 即可。

  19. 支持丰富的自定义设置,

    1. 支持自定义系统名称,logo 以及页脚。

    2. 支持自定义首页和关于页面,可以选择使用 HTML & Markdown 代码进行自定义,或者使用一个单独的网页通过 iframe 嵌入。

  20. 支持通过系统访问令牌调用管理 API,进而在无需二开的情况下扩展和自定义 One API 的功能,详情请参考此处 API 文档。。

  21. 支持 Cloudflare Turnstile 用户校验。

  22. 支持用户管理,支持多种用户登录注册方式:

    • 邮箱登录注册(支持注册邮箱白名单)以及通过邮箱进行密码重置。

    • 支持使用飞书进行授权登录。

    • GitHub 开放授权。

    • 微信公众号授权(需要额外部署 WeChat Server)。

  23. 支持主题切换,设置环境变量 THEME 即可,默认为 default,欢迎 PR 更多主题,具体参考此处。

  24. 配合 Message Pusher 可将报警信息推送到多种 App 上。

在线申请SSL证书行业最低 =>立即申请

[广告]赞助链接:

关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

#
公众号 关注KnowSafe微信公众号
随时掌握互联网精彩
赞助链接